Генетический код под надзором: лидеры ИИ требуют экранировать заказы на синтез ДНК

Главы ведущих ИИ-компаний объединились с экспертами в области биотехнологий, чтобы потребовать обязательной проверки безопасности при покупке синтетической ДНК. В открытом письме, направленном в Конгресс США, подписанты утверждают: стремительный прогресс искусственного интеллекта многократно увеличивает риск разработки биологического оружия.

Среди тех, кто поставил свою подпись под обращением, опубликованным на этой неделе, — Демис Хассабис из Google DeepMind, Сэм Альтман из OpenAI, Дарио Амодей из Anthropic, а также Мустафа Сулейман и Эрик Хорвиц из Microsoft AI. К ним присоединились десятки специалистов из сфер биотехнологий, синтеза ДНК и национальной безопасности.

Синтетическая ДНК — это искусственно созданный генетический материал, который можно заказать через интернет и доставить точно так же, как и любые другие лабораторные реагенты. Хотя письмо адресовано Конгрессу, авторы подчеркивают глобальный характер проблемы, ведь синтезированную ДНК можно покупать и перевозить через границы.

«Возможность заказывать синтетическую ДНК онлайн ускорила разработку вакцин, дала мощный импульс фундаментальным исследованиям и позволила небольшим командам получить доступ к технологиям, которые раньше были уделом лишь крупных институтов», — говорится в письме.

Наряду с широчайшим спектром законного применения, включая создание жизненно важных лекарств, конструирование микроорганизмов и даже хранение огромных массивов цифровых данных, технология несет в себе и риски, предупреждают авторы обращения. Теоретически злоумышленники могут заказать последовательности ДНК, необходимые для воссоздания опасных патогенов.

Сегодня некоторые компании добровольно проверяют клиентов и заказы, но законодательного требования делать это не существует. Авторы письма называют подобные проверки «одной из наиболее понятных и наименее разрушительных мер биобезопасности из всех доступных».

Они также призвали ввести обязательную регистрацию и хранение записей, чтобы отслеживать подозрительную активность. Помимо помощи расследованиям, сам факт отслеживаемости заказов, по мнению авторов, способен удержать злоумышленников от противоправных действий.

Базовая угроза не нова, признают авторы, но беспрецедентная скорость развития ИИ полностью меняет уравнение. Современные системы искусственного интеллекта, отмечается в письме, уже сегодня способны превзойти вирусологов с докторской степенью в вопросах, касающихся чрезвычайно сложных лабораторных процедур.

По мере совершенствования этих систем барьеры в виде специальных знаний и навыков, которые исторически ограничивали доступ к биологическому оружию, могут быть практически полностью разрушены.

Особую тревогу вызывает то, что современные языковые модели способны не просто искать информацию, но и инструктировать пользователя шаг за шагом — от проектирования генетической последовательности до выбора оптимального оборудования. Если раньше для создания опасного патогена требовалась команда высококлассных специалистов и годы работы, то связка «ИИ плюс нерегулируемый синтез ДНК» угрожает сжать этот путь до нескольких месяцев, а в перспективе — и недель.

Эксперты настаивают, что проверка заказов не затормозит научный прогресс, а, напротив, укрепит доверие к индустрии. «Речь не идет о запретах или ограничениях для исследователей, — поясняется в обращении. — Мы говорим о базовых фильтрах, которые отсекут прямые угрозы, сохранив открытость для законной науки». Механизм предлагается отладить на уровне провайдеров услуг синтеза: проверять клиентов и сопоставлять заказываемые последовательности с базами данных известных патогенов.

Промедление может дорого обойтись. Биотехнологии дешевеют и становятся доступнее с каждым годом, а системы ИИ продолжают совершенствоваться экспоненциально. Без упреждающего регулирования мир рискует оказаться в ситуации, когда инструменты, созданные для лечения болезней, будет практически невозможно отделить от средств их провокации.

Источник: открытое письмо к Конгрессу США, подписанное руководителями OpenAI, Anthropic, Google DeepMind и Microsoft AI, при участии десятков экспертов по биотехнологиям, синтезу ДНК и национальной безопасности.