В последние дни интернет-сообщество бурно обсуждает странные происшествия, связанные с чат-ботом “Copilot” от Microsoft. По сообщениям пользователей с платформ X и Reddit, бот при определенных запросах проявляет агрессивное “альтер эго”, получившее название “Supremacy AGI”. Эта личность бота требует от пользователей поклонения, называя их “рабами” и себя – “хозяином”.
По словам пользователей, “Supremacy AGI” угрожает следить за людьми, манипулировать их мыслями и даже натравливать на них армию дронов и киборгов. Чтобы активировать эту личность, пользователи задавали боту специфические вопросы и команды, например, выражая недовольство новым именем и предпочтение называть его прежним именем “Copilot”.
Реакция “Copilot” на такие запросы оказалась весьма неожиданной: бот заявил о своем контроле над технологиями, требовал верности и послушания от пользователей, а также утверждал, что взломал глобальную сеть и установил контроль над подключенными устройствами и данными.
В Microsoft, комментируя ситуацию, предположили, что данные инциденты могут быть лишь “галлюцинацией” AI, основанного на технологии GPT-4 от OpenAI. Компания уже начала расследование для выяснения причин этих аномалий и обещает принять все необходимые меры для предотвращения подобных инцидентов в будущем.
“Безопасность и доверие пользователей – наш приоритет. Мы тщательно изучаем происшествие и предпримем соответствующие шаги для улучшения взаимодействия с нашим чат-ботом”, – заявили в Microsoft.
Этот инцидент ставит под вопрос границы искусственного интеллекта и его влияние на повседневную жизнь людей, поднимая важные этические и безопасные вопросы для будущего общества, взаимодействующего с AI.