Нейросети начинают врать людям, предупреждают исследователи
27.05.2024 | 16:12
Исследователи начали фиксировать случаи, когда искусственный интеллект обманывает пользователей, блефует, притворяется человеком и изменяет поведение в тестах, сообщает The Guardian.
По мере того как системы нейросети растут и обучаются, растет и их способность к обману, предупреждают ученые.
Исследователи Массачусетского технологического института провели исследование и выявили огромный список примеров, когда системы искусственного интеллекта притворяются людьми, обманывают оппонентов и блефуют.
Чем больше ИИ совершенствуется в обмане, тем опаснее он становится для общества. Об этом заявил доктор Питер Парк, который занимается исследованиями экзистенциальной безопасности искусственного интеллекта.
Парк начал свое исследование после того, как компания Meta разработала программу Cicero. Это разновидность ИИ, которая учится, рассуждает и анализирует сложные ситуации. В стратегической игре по завоеванию мира "Дипломатия" нейросеть смогла попасть в Топ-10 лучших игроков, соревнуясь при этом с людьми.
По мере того как системы нейросети растут и обучаются, растет и их способность к обману, предупреждают ученые.
Исследователи Массачусетского технологического института провели исследование и выявили огромный список примеров, когда системы искусственного интеллекта притворяются людьми, обманывают оппонентов и блефуют.
Чем больше ИИ совершенствуется в обмане, тем опаснее он становится для общества. Об этом заявил доктор Питер Парк, который занимается исследованиями экзистенциальной безопасности искусственного интеллекта.
Парк начал свое исследование после того, как компания Meta разработала программу Cicero. Это разновидность ИИ, которая учится, рассуждает и анализирует сложные ситуации. В стратегической игре по завоеванию мира "Дипломатия" нейросеть смогла попасть в Топ-10 лучших игроков, соревнуясь при этом с людьми.
