Риск когнитивной ловушки: В Госдуме отреагировали на слова Мишустина о нейросетях

Существует риск создания Западом когнитивной ловушки, в которую могут попасть граждане РФ. Об этом заявил в интервью «Свободной Прессе» член комитета Госдумы по информполитике Антон Немкин, комментируя слова председателя правительства Михаила Мишустина о том, что в российский GigaChat и западный ChatGPT заложены, по сути, разные картины мира.

Премьер подчеркнул, что мышление искусственного интеллекта зависит от обучающего набора данных и отражает специфику страны происхождения. Так, в «мозгах» российской нейросети GigaChat и западной ChatGPT — разное понимание, что «такое „хорошо“, а что такое „плохо“».

Мишустин уточнил, что при допуске ИИ-решений в критически значимые отрасли, к примеру, в науку, медицину, промышленность, важно использовать модели, «отвечающие собственным национальным интересам».

«Полностью солидарен с премьер-министром. Как создается генеративный искусственный интеллект мы знаем — за этим стоят люди, которые закладывают в него модели, генерирующие текст, изображения и так далее. То есть ИИ обладает внутренним содержанием, которое в него закладывают программисты», — пояснил Немкин.

Парламентария сослался на проведенные исследования, которые показали: мировоззрение ChatGPT совпадает с мировоззрением западного человека в возрасте от 25 до 35 лет. Таким образом, общаясь с этой нейросетью, «вы общаетесь, грубо говоря, с западным обществом».

«Соответственно есть риск, что Западом создается когнитивная ловушка, в которую могут попасть наши граждане. Например, тот же ChatGPT распространяет фейки про Крым, про СВО, выдавая эту информацию за факты. Таким образом возникает серия угроз для наших граждан на фоне использования не национального искусственного интеллекта, в частности, это воспитание лояльных к политике Запада поколений», — отметил Немкин.

Депутат указал на необходимость заниматься разработкой собственных доверенных ИИ-систем, в которые будет заложена проверенная и достоверная информация, «соответствующая нашим национальным интересам, традиционным ценностям». Российский GigaChat — «шаг в таком направлении».

«Более того, нужно следить за тем, как уже активно используемые нашими гражданами нейросети сегодня взаимодействует с людьми, чтобы видеть заложенные туда сведения и контролировать их распространение», — пояснил собеседник издания.

Немкин добавил, что важно исключить использование иностранных языковых моделей на объектах критической инфраструктуры, чтобы «не допустить их влияния на ситуацию в стране в целом».