Anthropic не стала выпускать ИИ-модель Mythos в открытый доступ

Компания Anthropic отказалась от релиза Mythos, опасаясь её потенциала в поиске уязвимостей.
Автор: Алексей Новиков , Редактор Фото: Generated by DALL·E
В мире

Американская компания Anthropic решила не выводить на рынок свою новую модель искусственного интеллекта Mythos. Причиной названы риски безопасности: система оказалась слишком эффективной при поиске уязвимостей в программном обеспечении.

По данным разработчиков, модель способна обнаруживать критические ошибки в операционных системах и браузерах. Такие возможности делают её полезной для защиты, но одновременно создают риск использования в кибератаках.

В компании считают, что в случае попадания технологии к злоумышленникам это может привести к серьёзным последствиям для цифровой инфраструктуры.

Представители Anthropic пояснили, что решение ограничить доступ связано с необходимостью предотвратить злоупотребления. В компании исходят из того, что современная экономика зависит от устойчивости программных систем, а значит, подобные инструменты требуют осторожного обращения.

При этом эксперты «Центральной Службы Новостей» обращают внимание, что за официальной позицией могут стоять и другие факторы. В частности, речь может идти о рисках для самой компании, включая возможные претензии в случае неправомерного использования технологии.

История с Mythos вновь поднимает вопрос о том, как индустрии ИИ находить баланс между развитием технологий и безопасностью. Пока Anthropic делает выбор в пользу ограничений, не выводя разработку в открытый доступ.