Премия Рунета-2020
Россия
Москва
+16°
Boom metrics
Наука13 апреля 2023 0:00

Нейросеть за несколько часов изобрела 40 тысяч ядов: некоторые из них опаснее боевых отравляющих веществ

Машинные алгоритмы часто используются для создания новых лекарства, но, изменив методику поиска, можно искать соединения, которые не спасают, а убивают

Фото: Shutterstock

Вот и верь после этого в прогресс! Искусственный интеллект за 6 часов вывел формулу 40 000 потенциальных смертоносных молекул. Мы машинный разум породили, а он все норовит нас убить! Такие мысли рождаются, когда читаешь такие заголовки. Впрочем, алгоритм не виноват. Это ученые провели своего рода учения, чтобы узнать, на что способен искусственный разум, если использовать его в режиме “плохого парня”.

Обычно, нейросети применяют для того, чтобы помочь врачам найти новое лекарство. Если раньше медики создавали препараты методом научного тыка, то теперь алгоритмы шерстят электронные библиотеки, где хранятся данные о сотнях миллионах соединений. Программа выбирает молекулы, которые точнее всего попадают в биологическую мишень - это фермент или рецептор, который участвует в механизме возникновения заболеваний. Среди параметров отбора - тест на токсичность, поскольку лекарство, естественно, не должно иметь побочных эффектов. Так искусственный интеллект работает в обычном режиме. Но в один прекрасный день сотрудники американской фармацевтической компании получили приглашение поучаствовать в конференции, которую организовывал Швейцарский федеральный институт ядерной, биологической и химической защиты. Медиков попросили рассказать, что будет, если программы по созданию лекарств захотят использовать злодеи для каких-то дурных целей.

Поскольку они сами толком не знали ответа на этот вопрос, то решили провести эксперимент и изменили алгоритм. Теперь нейросеть должна была не отбраковывать токсичные соединения, а наоборот, искать наиболее смертоносные молекулы.

- Когда мы получили результаты, то первое, что бросилось в глаза - многие соединения, выглядели более токсичными, чем даже VX - это боевое отравляющее вещество нервно-паралитического действия, - рассказал в интервью изданию The Verge ведущий автор исследования Фабио Урбина. - А ведь VX это один из самых сильных боевых ядов. И кроме того, мы были удивлены легкостью, с какой можно провернуть это черное дело. Многие программы и базы данных находятся в открытом и бесплатном доступе. И если вы умеете писать код на Python (это язык программирования) и немного разбираетесь в машинном обучении, то вам хватит пары выходных, чтобы построить алгоритм, который способен эффективно искать смертельно опасные вещества.

Ученые говорят, что именно отсутствие серьезного барьера на пути потенциальных злоумышленников побудило их опубликовать статью с результатами эксперимента в авторитетном журнале Nature. В качестве предупреждения человечеству. Будем надеяться, что эта технология все же не попадет в руки людей зла.

ЧИТАЙТЕ ТАКЖЕ

Нейросеть раскрыла свои планы по уничтожению человечества и мировому господству, и тут же их провалила

В YouTube появилось видео, где анонимный пользователь решил “поразжигать” и поставил перед чат-ботом ChaosGPT задачи по уничтожению человечества и достижению бессмертия (подробности)