Аннотация
Импульсные нейронные сети (ИНС), реализованные на нейроморфных процессорах (НП), могут повысить энергоэффективность развертывания искусственного интеллекта (ИИ) для определенных рабочих нагрузок. Таким образом, НП представляют собой интересную возможность для реализации задач ИИ на борту энергоограниченных космических аппаратов связи. В этой статье мы представляем результаты недавно завершенного исследования, которое было направлено на сравнение различных вариантов использования спутниковой связи с точки зрения производительности и энергопотребления при их реализации на стандартных ускорителях ИИ и на НП. В частности, в статье описываются три ключевых варианта использования: оптимизация ресурсов полезной нагрузки, обнаружение и классификация помех на борту, а также динамическое формирование диаграммы направленности приемной антенны; и сравнивается производительность традиционных сверточных нейронных сетей (СНС), реализованных на отладочной плате Xilinx VCK5000 Versal, и ИНС на нейроморфном чипе Intel Loihi 2.
Введение
Искусственный интеллект (ИИ) был признан важнейшим элементом следующего поколения беспроводной связи. ИИ открывает захватывающие возможности, включая автономную переконфигурацию сети в ответ на изменяющиеся условия, повышение производительности системы и улучшение взаимодействия с пользователем. Учитывая преимущества ИИ в наземной беспроводной среде, исследовательское сообщество в области спутниковой связи (SatCom) также начало изучать ИИ для различных приложений.
Традиционно полезные нагрузки SatCom строились на основе аппаратных компонентов, как правило, созданных для специализированные задачи. Технология на основе программно-определяемой радиосистемы (SDR) доказала свою пользу для спутниковой промышленности [1]. Заменяя аппаратные компоненты программным обеспечением, SDR позволяет создать более гибкую полезную нагрузку спутника, обеспечивая переконфигурацию системы в реальном времени. Существующие работы в открытой литературе проанализировали внедрение алгоритмов машинного обучения (МО) для вариантов использования SatCom на основе SDR на уровне концепций и моделирования[2], [3]. В то время как в этих работах тестирование основано на программных моделях, их успешный переход к реальному развертыванию должен зависеть от их эффективной реализации на чипсетах, которые способны выполнить задачу в рамках приемлемой точности, времени вычислений и энергобюджета. Это особенно актуально для бортовой реализации ИИ, где чипсет ИИ должен быть интегрирован в состав полезной нагрузки спутника.
Нейроморфные процессоры (НП) представляют собой потенциально революционное решение для эффективного развертывания моделей ИИ, нацеленных на определенные рабочие нагрузки. НП реализуют энергоэффективные импульсные нейронные сети (ИНС), которые имитируют работу человеческого мозга. В отличие от традиционных вычислений по фон Нейману, НП нет необходимости получить их инструкции и данные из памяти, а затем обрабатывать их последовательно. НП обрабатывают данные в реальном времени, преодолевая узкое место шины память-процессор, которое является значительно энергозатратным. Учитывая строгие ограничения по мощности на борту спутниковых платформ, НП представляют собой ключевую возможность для раскрытия потенциальных преимуществ решений на основе ИИ и МО для систем SatCom благодаря их энергоэффективности. Электроэнергию необходимо генерировать на борту, как правило, используя солнечный свет с помощью панелей. Однако размер таких панелей диктует размер спутника и определяет стоимость запуска, являясь одним из наиболее критических аспектов проектирования космических миссий.
Кроме того, возможность динамически реконфигурировать спутниковую полезную нагрузку и диаграмму направленности антенны становится необходимостью для будущих широкополосных спутниковых систем. Адаптация параметров передачи в соответствии с изменяющимися условиями окружающей среды и пространственно-временными вариациями трафика позволяет спутниковым операторам максимизировать объем фактически используемой (т.е. продаваемой) пропускной способности системы, обеспечивая при этом качество обслуживания.
Промышленность и академическое сообщество в настоящее время работают над разработкой специализированных процессоров ИИ, которые обеспечивают лучшее энергопотребление и латентность для вычислительно сложных алгоритмов ИИ. Некоторые из этих процессоров ИИ уже доступны на рынке, в то время как многие все еще находятся на стадии испытаний и проектирования.
В этой работе мы сначала обсуждаем методику отбора наиболее перспективных вариантов использования SatCom и даем описание трех выбранных: (1) Оптимизация ресурсов в гибких спутниковых полезных нагрузках; (2) Обнаружение и классификация помех на борту; и (3) Динамическое цифровое формирование луча для быстро движущихся пользователей. Впоследствии мы обсуждаем и анализируем репрезентативные варианты использования SatCom с использованием двух многообещающих коммерческих альтернатив, а именно: отладочной платы Xilinx VCK5000 Versal для классического развертывания ИИ и чипсета Intel Loihi 2 для нейроморфных платформ.
Первый — это чип-ускоритель из семейства Versal, уже коммерциализированный компанией Xilinx, который был специально разработан для обеспечения высокой производительности при выполнении логических выводов ИИ и вычислений для обработки сигналов. Второй соответствует второму поколению нейроморфных исследовательских чипов Intel. Мы количественно оцениваем выигрыш с точки зрения вычислительного времени и энергопотребления, а также производительность при выполнении конкретной задачи, связанной со связью. Исследовательская работа, представленная в этой рукописи, была выполнена в сотрудничестве с Европейским космическим агентством (ESA) в рамках проекта ESA NeuroSat [4].
Эта статья организована следующим образом. Сначала мы описываем выбранные случаи использования в Разделе II. Далее мы обсуждаем и сравниваем два выбранных чипсета для ИИ в Разделе III и обсуждаем методологии кодирования данных для нейроморфной реализации в Разделе IV. Наконец, мы представляем сравнение производительности в Разделе V, за которым следует заключение в Разделе VI.
Импульсные нейронные сети (ИНС), реализованные на нейроморфных процессорах (НП), могут повысить энергоэффективность развертывания искусственного интеллекта (ИИ) для определенных рабочих нагрузок. Таким образом, НП представляют собой интересную возможность для реализации задач ИИ на борту энергоограниченных космических аппаратов связи. В этой статье мы представляем результаты недавно завершенного исследования, которое было направлено на сравнение различных вариантов использования спутниковой связи с точки зрения производительности и энергопотребления при их реализации на стандартных ускорителях ИИ и на НП. В частности, в статье описываются три ключевых варианта использования: оптимизация ресурсов полезной нагрузки, обнаружение и классификация помех на борту, а также динамическое формирование диаграммы направленности приемной антенны; и сравнивается производительность традиционных сверточных нейронных сетей (СНС), реализованных на отладочной плате Xilinx VCK5000 Versal, и ИНС на нейроморфном чипе Intel Loihi 2.
Введение
Искусственный интеллект (ИИ) был признан важнейшим элементом следующего поколения беспроводной связи. ИИ открывает захватывающие возможности, включая автономную переконфигурацию сети в ответ на изменяющиеся условия, повышение производительности системы и улучшение взаимодействия с пользователем. Учитывая преимущества ИИ в наземной беспроводной среде, исследовательское сообщество в области спутниковой связи (SatCom) также начало изучать ИИ для различных приложений.
Традиционно полезные нагрузки SatCom строились на основе аппаратных компонентов, как правило, созданных для специализированные задачи. Технология на основе программно-определяемой радиосистемы (SDR) доказала свою пользу для спутниковой промышленности [1]. Заменяя аппаратные компоненты программным обеспечением, SDR позволяет создать более гибкую полезную нагрузку спутника, обеспечивая переконфигурацию системы в реальном времени. Существующие работы в открытой литературе проанализировали внедрение алгоритмов машинного обучения (МО) для вариантов использования SatCom на основе SDR на уровне концепций и моделирования[2], [3]. В то время как в этих работах тестирование основано на программных моделях, их успешный переход к реальному развертыванию должен зависеть от их эффективной реализации на чипсетах, которые способны выполнить задачу в рамках приемлемой точности, времени вычислений и энергобюджета. Это особенно актуально для бортовой реализации ИИ, где чипсет ИИ должен быть интегрирован в состав полезной нагрузки спутника.
Нейроморфные процессоры (НП) представляют собой потенциально революционное решение для эффективного развертывания моделей ИИ, нацеленных на определенные рабочие нагрузки. НП реализуют энергоэффективные импульсные нейронные сети (ИНС), которые имитируют работу человеческого мозга. В отличие от традиционных вычислений по фон Нейману, НП нет необходимости получить их инструкции и данные из памяти, а затем обрабатывать их последовательно. НП обрабатывают данные в реальном времени, преодолевая узкое место шины память-процессор, которое является значительно энергозатратным. Учитывая строгие ограничения по мощности на борту спутниковых платформ, НП представляют собой ключевую возможность для раскрытия потенциальных преимуществ решений на основе ИИ и МО для систем SatCom благодаря их энергоэффективности. Электроэнергию необходимо генерировать на борту, как правило, используя солнечный свет с помощью панелей. Однако размер таких панелей диктует размер спутника и определяет стоимость запуска, являясь одним из наиболее критических аспектов проектирования космических миссий.
Кроме того, возможность динамически реконфигурировать спутниковую полезную нагрузку и диаграмму направленности антенны становится необходимостью для будущих широкополосных спутниковых систем. Адаптация параметров передачи в соответствии с изменяющимися условиями окружающей среды и пространственно-временными вариациями трафика позволяет спутниковым операторам максимизировать объем фактически используемой (т.е. продаваемой) пропускной способности системы, обеспечивая при этом качество обслуживания.
Промышленность и академическое сообщество в настоящее время работают над разработкой специализированных процессоров ИИ, которые обеспечивают лучшее энергопотребление и латентность для вычислительно сложных алгоритмов ИИ. Некоторые из этих процессоров ИИ уже доступны на рынке, в то время как многие все еще находятся на стадии испытаний и проектирования.
В этой работе мы сначала обсуждаем методику отбора наиболее перспективных вариантов использования SatCom и даем описание трех выбранных: (1) Оптимизация ресурсов в гибких спутниковых полезных нагрузках; (2) Обнаружение и классификация помех на борту; и (3) Динамическое цифровое формирование луча для быстро движущихся пользователей. Впоследствии мы обсуждаем и анализируем репрезентативные варианты использования SatCom с использованием двух многообещающих коммерческих альтернатив, а именно: отладочной платы Xilinx VCK5000 Versal для классического развертывания ИИ и чипсета Intel Loihi 2 для нейроморфных платформ.
Первый — это чип-ускоритель из семейства Versal, уже коммерциализированный компанией Xilinx, который был специально разработан для обеспечения высокой производительности при выполнении логических выводов ИИ и вычислений для обработки сигналов. Второй соответствует второму поколению нейроморфных исследовательских чипов Intel. Мы количественно оцениваем выигрыш с точки зрения вычислительного времени и энергопотребления, а также производительность при выполнении конкретной задачи, связанной со связью. Исследовательская работа, представленная в этой рукописи, была выполнена в сотрудничестве с Европейским космическим агентством (ESA) в рамках проекта ESA NeuroSat [4].
Эта статья организована следующим образом. Сначала мы описываем выбранные случаи использования в Разделе II. Далее мы обсуждаем и сравниваем два выбранных чипсета для ИИ в Разделе III и обсуждаем методологии кодирования данных для нейроморфной реализации в Разделе IV. Наконец, мы представляем сравнение производительности в Разделе V, за которым следует заключение в Разделе VI.
*Перевод выполнен с помощью нейросетей
Performance Evaluation of Neuromorphic Hardware for Onboard Satellite Communication
Spiking neural networks (SNNs) implemented on neuromorphic processors (NPs) can enhance the energy efficiency of deployments of artificial intelligence (AI) for specific workloads. As such, NP represents an interesting opportunity for implementing AI tasks on board power-limited satellite communication spacecraft. In this article, we disseminate the findings of a recently completed study which targeted the comparison in terms of performance and power-consumption of different satellite communication use cases implemented on standard AI accelerators and on NPs. In particular, the article describes three prominent use cases, namely payload resource optimization, onboard interference detection and classification, and dynamic receive beamforming; and compare the performance of conventional convolutional neural networks (CNNs) implemented on Xilinx’s VCK5000 Versal development card and SNNs on Intel’s neuromorphic chip Loihi 2. Index Terms—Neuromorphic Processors, Machine Learning, Satellite Communications.
Introduction
Artifical intelligence (AI) has been identified as an essential ingredient of the next generation of wireless communications. AI opens up exciting opportunities, including autonomous network reconfiguration to changing environments, improved system performance, and enhanced customer experience. Given the benefits of AI in the terrestrial wireless environment, the satellite communication (SatCom) research community has also started exploring AI for various applications. Traditionally, SatCom payloads have been built based on hardware components generally conceived for dedicated tasks. Software-defined radio (SDR) based technology has proven to be beneficial to the satellite industry [1]. By replacing hardware components with software, SDR allows a more flexible satellite payload, offering system reconfiguration in real time. Existing works in the open literature have analyzed the adoption of machine learning (ML) algorithms for SDR-based SatCom use cases at the level of concepts and simulations [2], [3]. While testing in these works relies on software models, their successful transition to real deployments must hinge on their efficient implementation on chipsets that are able to perform the task within reasonable accuracy, computation time, and power budget. This is particularly relevant for onboard AI implementation, where the AI chipset is to be integrated within the satellite payload.
Neuromorphic processors (NPs) represent a potentially revolutionary solution for efficiently deploying AI models targeting specific workloads. NPs implement energy-efficient spiking neural networks (SNNs) that mimic the operation of the human brain. Unlike conventional Von-Neumann computing, NPs do not need to fetch their instructions and data from memory, and then process them in a sequential step. NPs process data in real-time, overcoming the bottleneck of the memory-processor bus, which is significantly power-hungry. Given the stringent onboard power limitations of satellite platforms, NPs represent a major opportunity to unlock the potential benefits of AI and ML solutions for SatCom systems, thanks to their energy efficiency. Power must be generated onboard, typically exploiting the sunlight using solar panels. However, the size of such panels dictate the size of the satellite and determines the launching cost, being one of the most critical design aspects of space missions. Furthermore, the capability to dynamically reconfigure the satellite payload and antenna pattern is becoming a must for future broadband satellite systems. Adapting transmission parameters according to varying environment conditions and spatio-temporal traffic demand variations allows to satellite operators to maximize the amount of system capacity that is actually used (i.e. sold) while ensuring quality of service.
Industry and academia are currently working on the development of specific AI processors that provide better energy and latency performance for computationally intensive AI algorithms. Some of these AI processors are already available on the market, while many are still in testing and design phase.
In this work, we first discuss the methodology for shortlisting the most promising SatCom use cases, and provide a description of the three selected ones, which are: (1) Resource optimization in flexible satellite payloads; (2) Onboard interference detection and classification; and (3) Dynamic digital beamforming for fast-moving users. Subsequently, we discuss and analyze the representative SatCom use cases using two promising alternative commercial options, namely Xilinx’s VCK5000 Versal development card for classical AI deployments and Intel’s Loihi 2 chipset for neuromorphic platforms.
The first is an acceleration chip from the Versal family already commercialized by Xilinx, which was specifically designed to implement high throughput AI inference and signal processing computing performance. The latter corresponds to the second generation of Intel’s neuromorphic research chips. We quantify gains in terms of computational time and power consumption, as well as performance on the specific communications-related task. The research activity presented in this manuscript was carried out in collaboration with the European Space Agency (ESA) in the context of the ESA NeuroSat project [4].
This article is organized as follows. First, we describe the selected use cases in Section II. Next, we discuss and compare the two selected AI chipsets in Section III, and discuss the data encoding methodologies for neuromophic implementation in Section IV. Finally, we present the performance comparisons in Section V, followed by the conclusion in Section VI.
Introduction
Artifical intelligence (AI) has been identified as an essential ingredient of the next generation of wireless communications. AI opens up exciting opportunities, including autonomous network reconfiguration to changing environments, improved system performance, and enhanced customer experience. Given the benefits of AI in the terrestrial wireless environment, the satellite communication (SatCom) research community has also started exploring AI for various applications. Traditionally, SatCom payloads have been built based on hardware components generally conceived for dedicated tasks. Software-defined radio (SDR) based technology has proven to be beneficial to the satellite industry [1]. By replacing hardware components with software, SDR allows a more flexible satellite payload, offering system reconfiguration in real time. Existing works in the open literature have analyzed the adoption of machine learning (ML) algorithms for SDR-based SatCom use cases at the level of concepts and simulations [2], [3]. While testing in these works relies on software models, their successful transition to real deployments must hinge on their efficient implementation on chipsets that are able to perform the task within reasonable accuracy, computation time, and power budget. This is particularly relevant for onboard AI implementation, where the AI chipset is to be integrated within the satellite payload.
Neuromorphic processors (NPs) represent a potentially revolutionary solution for efficiently deploying AI models targeting specific workloads. NPs implement energy-efficient spiking neural networks (SNNs) that mimic the operation of the human brain. Unlike conventional Von-Neumann computing, NPs do not need to fetch their instructions and data from memory, and then process them in a sequential step. NPs process data in real-time, overcoming the bottleneck of the memory-processor bus, which is significantly power-hungry. Given the stringent onboard power limitations of satellite platforms, NPs represent a major opportunity to unlock the potential benefits of AI and ML solutions for SatCom systems, thanks to their energy efficiency. Power must be generated onboard, typically exploiting the sunlight using solar panels. However, the size of such panels dictate the size of the satellite and determines the launching cost, being one of the most critical design aspects of space missions. Furthermore, the capability to dynamically reconfigure the satellite payload and antenna pattern is becoming a must for future broadband satellite systems. Adapting transmission parameters according to varying environment conditions and spatio-temporal traffic demand variations allows to satellite operators to maximize the amount of system capacity that is actually used (i.e. sold) while ensuring quality of service.
Industry and academia are currently working on the development of specific AI processors that provide better energy and latency performance for computationally intensive AI algorithms. Some of these AI processors are already available on the market, while many are still in testing and design phase.
In this work, we first discuss the methodology for shortlisting the most promising SatCom use cases, and provide a description of the three selected ones, which are: (1) Resource optimization in flexible satellite payloads; (2) Onboard interference detection and classification; and (3) Dynamic digital beamforming for fast-moving users. Subsequently, we discuss and analyze the representative SatCom use cases using two promising alternative commercial options, namely Xilinx’s VCK5000 Versal development card for classical AI deployments and Intel’s Loihi 2 chipset for neuromorphic platforms.
The first is an acceleration chip from the Versal family already commercialized by Xilinx, which was specifically designed to implement high throughput AI inference and signal processing computing performance. The latter corresponds to the second generation of Intel’s neuromorphic research chips. We quantify gains in terms of computational time and power consumption, as well as performance on the specific communications-related task. The research activity presented in this manuscript was carried out in collaboration with the European Space Agency (ESA) in the context of the ESA NeuroSat project [4].
This article is organized as follows. First, we describe the selected use cases in Section II. Next, we discuss and compare the two selected AI chipsets in Section III, and discuss the data encoding methodologies for neuromophic implementation in Section IV. Finally, we present the performance comparisons in Section V, followed by the conclusion in Section VI.