Новости Беларуси
Белорусское телеграфное агентство
Рубрики
Пресс-центр
Аналитика
Главная Новости Общество

"Склонны к подхалимажу". Эксперт о принципах работы нейросетей

04.12.2023 | 18:18

4 декабря, Минск /Корр. БЕЛТА/. Политолог Юрий Шевцов в проекте "В теме" на YouTube-канале БЕЛТА рассказал о системе Т9, искусственном интеллекте и принципе работы нейросети.

Отвечая на вопрос о принципе работы нейросети и похожа ли она на систему Т9, Юрий Шевцов отметил: "Да, в основе это. Просто система очень мощная и работает, обучаясь от запросов. Скажем, когда вы работаете с Nokia, то система привыкает к небольшому набору привычных вам слов. И когда пишете первую букву, она оперирует, наверное, тысячей слов (вряд ли больше). А тут идет обучение системы таким образом, что она оперирует сотнями миллионов слов. И тут важно, какие слова она будет подставлять. Потому что GPT-4, когда ее массово стали использовать, показала несколько дополнительных феноменов. Она не только стала создавать алгоритмы опасных действий, но и показала, что быстро начинает делать тексты такими, какие хочет получить человек, который задает указания".

Например, пользователь даст указание написать текст, аналитическую разработку на тему, как провести предвыборную кампанию в Шри-Ланке. "И она выдаст то, что с ее точки зрения соответствует мировосприятию этого конкретного заказчика. То есть она посмотрит те слова, которые он раньше давал другим пользователям, использует системы запросов других пользователей по Шри-Ланке и выдаст то, что человек хочет услышать. Это называется, как стали говорить журналисты, - искусственный интеллект склонен к подхалимажу", - рассказал эксперт.

Юрий Шевцов подчеркнул, что выданный ответ на запрос не является истиной. "Она будет стараться дать истину, но обязательный ее показатель - создать комфортный для вас текст или комфортный алгоритм действий. И тут содержится глубочайшая опасность: на уровне идеологии система будет очень глубоко проникать в сознание человека и выдавать ему то, что он хочет услышать применительно к сложным темам".-0-