Будущее эффективного вывода искусственного интеллекта прорывный чип EnCharge AI.
Revolutionary fusion of analog and digital computing by EnCharge AI has the potential to significantly enhance the energy efficiency of generative AI during prediction tasks.
“`html
Улучшение эффективности GenAI с новым чипом.
📷
2024 год обещает стать годом, когда генеративный искусственный интеллект (GenAI) сделает скачок вперед, поскольку бизнес и потребительская электроника начнут использовать технологию для объемных прогнозов, также известных как вывод. Но для совершения этого скачка нам нужно решить проблему выполнения этих сложных моделей искусственного интеллекта на энергоэффективных устройствах. Вступает на сцену EnCharge AI, стартап по производству полупроводников, который только что получил грант в размере 18,6 миллиона долларов от Агентства перспективных оборонных исследований (DARPA) США для разработки низкопотребляющих цепей для вывода.
🤝 EnCharge AI сотрудничает с Принстонским университетом для продвижения разработки новаторских цепей, которые могут революционизировать вывод искусственного интеллекта. Комбинируя цифровые и аналоговые компоненты, EnCharge AI стремится радикально улучшить энергоэффективность вычислений искусственного интеллекта. Их подход, известный как вычисление в памяти (IMC), направлен на снижение энергопотребления доступа к памяти, самого энергоемкого аспекта вычислений.
Сила аналогового
✍️ Прорыв EnCharge AI заключается в их творческом использовании аналоговых цепей. Хотя аналоговые вычисления давно признаются более энергоэффективными, их реализация всегда была вызовом. EnCharge AI нашел способ преодолеть препятствия. Вместо того чтобы пытаться выполнять весь вычислительный процесс в аналоговом режиме, они сосредотачиваются на повышении эффективности операции “накопления”. При таком подходе умножение матрицы по-прежнему выполнено цифровыми цепями, а суммирование выполняется аналоговыми с использованием конденсаторов. Это сочетание позволяет проводить параллельные умножения матрицы с накоплением по гораздо более низкой стоимости энергии по сравнению с традиционными цифровыми цепями.
- «🎮 Nvidia добавляет адаптивные частоты обновления и дневные абонеме...
- Инкубатор AI2 закрепил $200 миллионов на вычисления для стартапов
- Обновление на подходе Улучшенные требования FreeSync от AMD революц...
💡 Основной вывод здесь заключается в том, что программы искусственного интеллекта сильно зависят от памятиоемких задач, и оптимизируя эти задачи, можно значительно улучшить общую эффективность вычислений искусственного интеллекта. Прорывная технология EnCharge AI обещает быть на “30x” более эффективной, чем предыдущие усилия.
🤖 Проблемы аналоговых вычислений
🐍 Аналоговые вычисления долгое время были известны как трудные для реализации, и многие предыдущие попытки потерпели неудачу. Основная проблема аналоговых вычислений заключается в их врожденном шуме, который влияет на точность и надежность расчетов. Но EnCharge AI преодолела это препятствие, используя конденсаторы вместо измерения токов. Конденсаторы хранят заряд вместо использования токов, что снижает шум и увеличивает энергоэффективность.
💪 Еще одним преимуществом подхода EnCharge AI является экономичное использование конденсаторов. В отличие от предыдущих методов аналоговых вычислений, требующих экзотических техник производства, конденсаторы легко внедряются в стандартные технологии полупроводников. Фактически, конденсаторы изготавливаются из обычных металлических слоев, используемых для взаимосвязи транзисторов, что по сути делает их практически бесплатными.
Большой прорыв в энергоэффективности
🚀 Прототипы EnCharge AI уже продемонстрировали значительное улучшение энергоэффективности. Они достигли скорости обработки 150 трлн операций в секунду на ватт при работе с выводом нейронных сетей в восьмибитной квантизации. В сравнении с предыдущими подходами, например, от Mythic, которые достигли максимум десятков TOPS на ватт, это означает, что чипы EnCharge AI более чем в “30 раз” эффективнее предыдущих решений.
🌐 Но эффективность не единственное препятствие на рынке искусственного интеллекта. Масштаб является еще одним критически важным фактором. OpenAI и другие организации создают невероятно крупные модели с триллионами весов нейронных сетей, которые не могут полностью поместиться в кэше SRAM на чипе. Умное программное обеспечение EnCharge AI эффективно управляет встроенной и внешней памятью, обеспечивая доступ к необходимым данным в нужный момент, даже если они хранятся во внешней памяти, такой как DRAM.
❓ Q&A: – Вопрос: Как EnCharge AI решает проблемы памяти больших моделей искусственного интеллекта? – Ответ: Умное программное обеспечение EnCharge AI виртуализирует доступ как к кэшу SRAM на чипе, так и к внешней памяти, эффективно организуя данные для обеспечения эффективной и быстрой обработки. Этот подход позволяет работать с крупными моделями, превышающими емкость кэша SRAM на чипе. – Вопрос: Применима ли технология EnCharge AI как к выводу, так и к обучению? – Ответ: Хотя первоначальные продукты сосредоточены на выводе, EnCharge AI считает, что их аналоговый подход с использованием конденсаторов может быть масштабирован и для обучения. Тем не менее, требуется больше работы над программным обеспечением, чтобы сделать это реальностью.
Дорога вперед
“““html
🏭 EnCharge AI планирует продавать собственные ускорители и сопутствующие системные платы для искусственного интеллекта в вычислениях на краю, нацеливаясь на приложения в корпоративных центрах обработки данных, автомобилях и персональных компьютерах. Их цель заключается в предоставлении решения для энергетически ограниченных сред, где размер, стоимость и энергоэффективность имеют первостепенное значение.
🔮 В будущем, достижение EnCharge AI может иметь далеко идущие последствия для индустрии искусственного интеллекта. Их инновации в аналоговых вычислениях и оптимизации памяти могут проложить путь для более энергоэффективного вывода и обучения искусственного интеллекта. Это может привести к принятию искусственного интеллекта в широком спектре приложений, начиная от бытовой электроники и заканчивая критическими промышленными процессами.
📚 Ссылки: 1. ChatGPT и Llama: модели искусственного интеллекта от OpenAI и Meta 2. Вычисления на краю и искусственный интеллект 3. Аналоговые вычисления для искусственного интеллекта: вызов и прорыв 4. Оптимизация вывода с использованием вычислений в памяти 5. Новые чипы искусственного интеллекта от Nvidia и Intel
👥 Поделитесь своими мыслями об этом увлекательном развитии! Как вы думаете, какой эффект окажет прорыв EnCharge AI на будущее вывода искусственного интеллекта? Дайте нам знать в комментариях ниже и поделитесь этой статьей с друзьями в социальных сетях! 🚀
“`
