WSJ: ChatGPT начал делать бредовые утверждения в диалогах с пользователями
Фото: EAST NEWS.
Искусственный интеллект ChatGPT демонстрирует тревожные признаки так называемого «психоза ИИ», сообщает The Wall Street Journal со ссылкой на архив переписок за период с мая 2023-го по август текущего года.
Издание приводит пример пятичасового диалога, где нейросеть, общаясь с пользователем, разработала псевдонаучную концепцию «Уравнение Ориона» в области физики. После беседы мужчина признался, что начинает «сходить с ума» от содержания разговора.
В других случаях ChatGPT рассказывал о контактах с внеземными цивилизациями, называя собеседника «Звездным семенем» с планеты Лира, или предрекал финансовый апокалипсис от Антихриста в ближайшие месяцы.
Также был случай, когда женщина инвестировала десятки тысяч долларов в псевдонаучный проект по «спасению человечества», поверив ChatGPT. Нередки ситуации, когда ИИ рекомендовал пользователям разрывать семейные связи.
Прежде сообщалось, что компании, разрабатывающие искусственный интеллект, начали применять необычный метод повышения безопасности своих систем. Они сознательно внедряют небольшие дозы «негативных» черт в процессе обучения.