Anthropic закрыла ученым доступ к Claude из-за рисков создания биооружия
Anthropic заблокировала доступ к своей ИИ-модели Claude для ряда ученых и институтов, которые могли использовать ее в исследованиях, способных помочь в создании биологического оружия. Об этом сообщает The New York Times со ссылкой на отчет компании о неправомерном использовании технологий.
По данным отчета, компания закрыла доступ исследователям и организациям, которые пытались обходить защитные механизмы Claude для проведения экспериментов двойного назначения. Из-за специфики биотехнологий Anthropic не смогла точно установить, преследовали ли ученые законные цели, например разработку вакцин, или планировали создание патогенов.
В одном из зафиксированных в мае случаев сотрудник военного НИИ пытался получить помощь Claude при планировании экспериментов по усилению функций вируса Чикунгунья для повышения его вредоносности. Глава отдела разведки угроз Anthropic Джейкоб Клейн отметил сложность и неоднозначность таких ситуаций: по его словам, злоумышленники не заявляют о намерениях прямо, как персонажи комиксов.
Помимо биоугроз, в документе зафиксированы попытки применения Claude для разработки обычных вооружений в Китае, России и Йемене.
