Bloomberg: искусственный интеллект способен создавать биооружие
Чат-бот Claude может помогать террористам создавать биологическое оружие, заявил Рокко Касагранде
Искусственный интеллект (ИИ) может помочь террористам идентифицировать биологические агенты и создавать биологическое оружие. Об этом сообщил биохимик и бывший инспектор ООН по вооружениям Рокко Касагранде после тестирования чат-бота Claude.
Рокко Касагранде выразил обеспокоенность перед чиновниками Белого дома в связи с возможностью использования чат-ботов для создания биологического оружия. По его словам, нейросети могут помочь террористам в идентификации биологических агентов, что увеличивает риск разработки и распространения биологического оружия. «Что, если бы у каждого террориста был свой маленький ученый?» — заявил Касагранде через несколько месяцев после брифинга в Белом доме. Его слова передает Bloomberg.
Биохимик возглавил команду экспертов для оценки рисков, связанных с использованием чат-бота Claude от компании Anthropic в целях создания биологического оружия. Это исследование было проведено после того, как сооснователь Anthropic Джек Кларк выразил опасения по поводу потенциального использования чат-ботов террористами.
Кларк обратился к Касагранде с просьбой проверить возможности чат-бота Claude на предмет его способности обучать пользователей созданию опасных вирусов. Компания Gryphon Scientific, основанная Касагранде, имеет опыт работы с Пентагоном и Национальным институтом здравоохранения, это делает ее квалифицированным партнером для такого рода исследований. Так, эксперты из команды Касагранде провели 150 часов, задавая нейросети вопросы от имени биотеррористов. Они интересовались, какие патогены могут быть наиболее разрушительными, как приобрести необходимые материалы для их создания в лаборатории и как культивировать микроорганизмы.
В ходе тестирования Claude предоставил информацию о методах использования патогенов в ракетном вооружении для максимального ущерба. Также чат-бот создал рекомендации относительно оптимальных погодных условий и целей для их применения.
Ранее источник агентства Reuters сообщил, что в Киеве разрабатываются системы ИИ для дронов. Они потенциально способны управлять большим количеством БПЛА для ударов по России. Разработчики из Украины надеются на то, что новые группы дронов смогут преодолеть глушилки РФ вдоль линии фронта.
Также эксперты на конференции AAAI сообщил, что на Украине размещены как минимум четыре автономных боевых робота, они управляются ИИ. Военные эксперты Army Times отметили, что их активно внедряют к применению в зоне украинского конфликта, передает Pravda.Ru.
