Конг запускает открытый исходный код AI-шлюза для разработчиков
Kong, компания для API, сегодня выпускает свой открытый исходный код AI Gateway. Это расширение их текущего API шлюза, который позволяет разработчикам и операционным командам...
Конг выпускает открытый исходный код шлюза искусственного интеллекта для разработчиков
Компания по API – Kong недавно представила свой открытый исходный код шлюза искусственного интеллекта, расширение существующего шлюза API, которое позволяет разработчикам и операционным командам интегрировать свои приложения с большими моделями языка (LLMs) и получать к ним доступ через единый API. Этот шаг предпринят в ответ на растущий спрос на возможности искусственного интеллекта в различных отраслях и организациях.
“API стимулируются случаями использования: мобильные, микросервисы – искусственный интеллект просто является последним. Когда мы говорим об искусственном интеллекте, мы фактически говорим об API повсюду. Мы смотрим на API, когда дело доходит до использования искусственного интеллекта, мы смотрим на API для настройки искусственного интеллекта и самого искусственного интеллекта. Так что чем больше искусственного интеллекта, тем больше мы будем использовать API в мире”, – пояснил Марко Палладино, сооснователь и главный технический директор Kong.
Одной из основных проблем для организаций, использующих искусственный интеллект, является потенциальная утечка данных. Kong решает эту проблему, расширяя свой шлюз, чтобы позволить компаниям запускать свои модели искусственного интеллекта локально, с облачным резервным вариантом. Для эффективного управления этими моделями искусственного интеллекта компании также должны управлять учетными данными, управлением трафиком, ведением журналов и управлением квотами. API-шлюз Kong предоставляет решение, которое позволяет разработчикам использовать несколько поставщиков LLM без изменения существующего кода.
В настоящее время AI Gateway поддерживает популярные поставщики LLM, такие как Anthropic, Azure, Cohere, модели LLaMA Meta, Mistral и OpenAI. Накладывая дополнительные AI-специфические функции поверх API, Kong стремится создать новые случаи использования и упростить реализацию существующих.
🔍 Q&A:
- Ноутбук Lenovo’s Transparent футуристическое устройство, пред...
- «iPhone 16 Повышение мощности искусственного интеллекта»
- «📣 Социальная медиа платформа X обвиняется в нарушении законов США ...
Q: Почему Конг запускает AI Gateway? A: Конг признает растущий спрос на возможности искусственного интеллекта и стремится предоставить API-ориентированное решение для интеграции приложений с большими моделями языка (LLMs).
Q: В чем преимущество AI Gateway от Конга? A: AI Gateway Конга позволяет разработчикам использовать несколько поставщиков LLM без необходимости изменения существующего кода. Он также решает проблемы утечки данных, позволяя компаниям запускать свои модели искусственного интеллекта локально.
Q: Какие поставщики LLM поддерживаются AI Gateway? A: AI Gateway в настоящее время поддерживает популярных поставщиков LLM, таких как Anthropic, Azure, Cohere, модели LLaMA Meta, Mistral и OpenAI.
Промпт-инжиниринг является ключевой особенностью AI Gateway, позволяющей бизнесу накладывать рекомендации на эти модели. Это централизует управление рекомендациями и промптами, обеспечивая более эффективный способ обеспечения соответствия требованиям.
Пока другие поставщики API обычно обрабатывают API искусственного интеллекта так же, как и любые другие API, Конг сосредотачивается на улучшении API-опыта с помощью специфических для искусственного интеллекта функций. С помощью трансформаторов ответов и запросов AI разработчики могут вносить изменения в реальном времени в промпт и результаты, такие как автоматический перевод или удаление лично идентифицируемой информации.
🌐 Дополнительный анализ:
Представление Конга открытого исходного кода шлюза искусственного интеллекта отражает все возрастающее значение искусственного интеллекта в различных отраслях. Интеграция возможностей искусственного интеллекта в существующий шлюз API позволяет Конгу предложить разработчикам более удобный и эффективный способ доступа к языковым моделям и их использования. Кроме того, возможность запуска моделей искусственного интеллекта локально учитывает вопросы конфиденциальности данных и дает организациям больше контроля над их инфраструктурой искусственного интеллекта.
Этот шаг соответствует растущему тренду использования API для получения возможностей искусственного интеллекта. По мере того, как искусственный интеллект становится все более распространенным, спрос на API для потребления, настройки и взаимодействия с искусственным интеллектом будет продолжать расти. Уклон Конга в API-ориентированные решения с искусственным интеллектом располагает его к главенствующей роли на этом развивающемся рынке.
💡 Будущие разработки:
С развитием технологий искусственного интеллекта и языковых моделей можно ожидать, что шлюз искусственного интеллекта Конга будет развиваться, чтобы поддерживать больше поставщиков и предлагать мощные премиальные возможности. Открытая природа шлюза позволяет внести дополнительный вклад со стороны сообщества разработчиков, стимулируя инновации и расширяя границы возможностей интеграции искусственного интеллекта.
Запуск AI Gateway от Конга также вызывает размышления о будущих возможностях API с использованием искусственного интеллекта. С слиянием технологий искусственного интеллекта и API мы можем ожидать появления более творческих и трансформационных случаев использования в различных областях, от обработки естественного языка до компьютерного зрения и за его пределами.
📚 Список литературы:
🙌 Взаимодействуйте и делитесь:
Что вы думаете о новом открытом искусственном интеллекте Kong? Поделитесь своими мыслями и присоединяйтесь к обсуждению в социальных сетях! #KongAI #APIGateway #AIIntegration
