Компания Anthropic представила отчет о том, что были выявлены пять аккаунтов, использующих уязвимости ИИ для разработки биологического оружия. Хотя фактически таких случаев может быть значительно больше, вряд ли их число достигает тысячи. Дело в том, что среди профессиональных биохимиков не так много тех, кто может скрыть свои намерения, обращаясь к ИИ.
Представители Anthropic отметили, что они не могут полностью запретить использование ИИ в медицинских и биохимических исследованиях. Проблема заключается в том, что провести четкую грань между разработкой лекарств и усугублением болезней бывает крайне сложно. В некоторых случаях необходимо одно, в других - другое, например, для борьбы с паразитами. Это не оправдание, а лишь констатация факта.
В данной ситуации опасность была выявлена не на основании научных данных, а из-за административных признаков. Некоторые механизмы защиты ИИ действительно существуют, и нарушители были пойманы именно при попытке их обойти. Региональные запреты сыграли свою роль, и преступники, нарушившие их, были задержаны. Но возникает вопрос: сколько таких случаев осталось незамеченными? Например, как поймать студента, который просто проверяет свою научную работу, в то время как его аккаунт может быть связан с военным институтом?
Также Anthropic объявила о повышении мер безопасности и ограничении доступа к своим моделям для биологических запросов двойного назначения. Официальной причиной этого шага стал рост хакерских атак, исходящих из России. Однако фактически речь идет о том, что некоторые группировки с неясным происхождением пытаются найти способы обойти существующие механизмы защиты ИИ. Интересно, что эти действия также осуществляются с помощью ИИ. Кто стоит за этими попытками и какие цели преследует, включая создание биологического оружия, пока остается неизвестным.
