Red Hat покупает Chatterbox Labs, чтобы ограничить свои продукты и услуги в области искусственного интеллекта

Red Hat объявила о покупке компании по обеспечению безопасности искусственного интеллекта Chatterbox Labs, специализирующейся на установлении границ и барьеров для систем искусственного интеллекта независимо от их моделей, а также для генеративного искусственного интеллекта. С помощью этой операции Red Hat хочет расширить свои возможности по внедрению средств обеспечения безопасности для продуктов и услуг Red Hat AI, а также технологий, имеющих отношение к операциям машинного обучения.

Технология, разработанная Chatterbox Labs, предлагает независимое от модели тестирование безопасности и защитные барьеры в качестве критического уровня безопасности для ИИ. Это происходит в условиях, когда компании переходят от экспериментов к производству, после чего им необходимо внедрять мощные, но в то же время надежные и безопасные модели.

Интеграция с Chatterbox Labs создает единую платформу, в которую интегрирована безопасность, что расширяет возможности компании по включению производственных рабочих нагрузок с искусственным интеллектом для любой модели и на любом ускорителе.

Компания Chatterbox Labs, основанная в 2011 году, обладает технологиями и опытом в области безопасности и прозрачности искусственного интеллекта. В частности, она предлагает автоматизированные и настраиваемые возможности тестирования безопасности и защиты ИИ, предоставляя объективные показатели риска, необходимые для утверждения внедрения ИИ в производство. Эта технология предлагает независимый от модели подход к проверке данных и моделей с помощью AIMI для генеративного искусственного интеллекта, который предоставляет независимые количественные показатели риска для LLMs.

Также от AIMI для интеллектуального искусственного интеллекта, который проверяет любую архитектуру искусственного интеллекта по ключевым параметрам, таким как надежность, справедливость и объяснимость. Что касается установления границ и барьеров, технологии компании выявляют и исправляют небезопасные, токсичные или предвзятые признаки. Кроме того, она делает это до запуска моделей в производство.

Таким образом, эта операция соответствует видению Red Hat по поддержке различных моделей и целей развертывания в гибридном облаке. Кроме того, он дополняет перспективные возможности Red Hat AI 3, в частности, для агентского искусственного интеллекта и протокола контекста моделей (MCP).

Кроме того, Chatterbox Labs провела исследования в области комплексной безопасности агентов, включая мониторинг ответов агентов и обнаружение триггеров действий сервера MSP.

Это исследование согласуется с дорожной картой Red Hat по поддержке Flama Stack и MCP, что облегчит компании защиту интеллектуальных и автоматизированных рабочих нагрузок следующего поколения на надежной и готовой для предприятия основе. Сочетая возможности Red Hat MLOps с возможностями защиты Chatterbox Labs, Red Hat позволит компаниям более уверенно реализовывать свои инвестиции в искусственный интеллект.

Стив Хьюэлс, вице-президент Red Hat по разработке ИИ и продуктовой стратегии, подчеркнул, что «компании быстро переводят ИИ из лаборатории в производство, что повышает актуальность надежных, безопасных и прозрачных развертываний ИИ. Инновационные технологии тестирования безопасности и независимые барьеры безопасности, разработанные в модели Chatterbox Labs, являются критически важным уровнем «безопасности для искусственного интеллекта», необходимым отрасли. Интегрируя Chatterbox Labs в портфель решений Red Hat в области искусственного интеллекта, мы подтверждаем наше обещание клиентам предоставить комплексную платформу с открытым исходным кодом, которая не только позволит им запускать любую модель в любом месте, но и сделает это с уверенностью в том, что безопасность интегрирована с самого начала. Это приобретение поможет сделать возможным по-настоящему ответственный ИИ в промышленных масштабах«.

Что касается Стюарта Баттерсби, соучредителя и главного технического директора Chatterbox Labs, он прокомментировал, что «по мере распространения систем искусственного интеллекта во всех аспектах бизнеса и общества мы не можем позволить, чтобы безопасность превратилась в запатентованный черный ящик. Очень важно, чтобы барьеры безопасности ИИ не ограничивались развертыванием, а подвергались тщательному тестированию и подкреплялись доказуемыми показателями. Компания Chatterbox Labs была пионером в этой области от зарождения интеллектуального ИИ до агентских систем будущего. Присоединившись к Red Hat, мы можем предоставить эти независимые и проверенные показатели безопасности сообществу разработчиков открытого исходного кода. Эта прозрачность позволяет компаниям беспрепятственно проверять безопасность, что делает возможным будущее, в котором мы все можем извлечь выгоду из безопасного, масштабируемого и открытого ИИ«.

Редактор: AndreyEx