Проблема нейросетей в людях, а не в искусственном интеллекте

Проблема нейросетей в людях, а не в искусственном интеллекте
  Картинка сгенерирована нейросетью Kandinsky 2.1 по запросу "Глупый искуственный интеллект"

Петербургская инсталляция с «нацистским офицером» вызвала бурные обсуждения в российском обществе. Спровоцировал скандал культурный проект «Питер читает», на День Победы выступивший с поддержанной Смольным акцией «Питер чтит». Она заключалась в инсталляции, с помощью световой проекции демонстрировавшийся на нескольких объектах северной столицы, в том числе и разведенном Троицком мосту. Изображены на ней были офицер с женщиной и двумя детьми. Сам по себе посыл «воина-защитника» был ясен, однако многих смутила форма офицера, сильно напоминавшая ту, что была принята в армии гитлеровской Германии.

Проекция инсталляции "Питер чтит" на Троицкий мост. Источник: проект «Питер читает»

Справедливости ради, совершенно не очевидно, что форма изображена именно нацистская: по мнению некоторых специалистов, она, скорее, напоминает мундиры офицеров какого-то латиноамериканского государства. Но уж точно не советских

Представители проекта попытались погасить вспыхнувший скандал, опубликовав в своих соцсетях уверение, что у них

«не было и мысли осквернить память, задеть чувства горожан и создать провокацию». 

По их словам, казус случился из-за того, что изображение было сгенерировано при помощи нейросети по ключевым фразам на английском языке. Мол, никакого отношения к пропагандистским плакатам Третьего рейха оно не имеет.

Однако пользователи интернета обратили внимание, что фигура офицера с инсталляции удивительно напоминает известный в Сети кадр из немецкого фильма «Вундеркинд», на котором запечатлен актер Джон Фридманн в роли штурмбанфюрера СС.

Кадр из фильма «Вундеркинд» и инсталляция "Питер чтит" 

Более того, «извинение» от имени проекта более похоже на агрессивное самооправдание, поскольку содержит пассаж, что 

«люди, увидевшие посыл или связь с формой представителей фашистской Германии клевещут на эту память и создают конфликты, сталкивая лбами друг друга». 

Так что, вместо смягчения общественности, это еще больше ее разозлило. Вплоть до требований привлечь инициаторов акции к уголовной ответственности.

Читайте также: «Атомное сердце» возвращает в СССР

- Раз организаторы акции с каким-то совсем не петербургским названием «Питер чтит» оказались весьма борзыми ребятками, которые, по всей видимости, не знают истории своей страны, а изображения солдата генерируют с помощью нейросети, причем вводя иностранные (!) слова в описательную часть, то пусть их проверит теперь СК РФ, - заметила, например, юрист и общественница из Петербурга Ирина Баханович, написавшая по этому поводу заявление на имя главы ведомства Александра Бастрыкина.  

Заявление И. Баханович А. Бастрыкину. Источник: ТГ-канал "Блокнотик Баханович"

Обострил скандал и нарекания на работу нейросетей, которые в последнее время приобретают все большую популярность. В частности, по поводу того, что через них может распространяться информация, продвигающая геополитические интересы западного мира. Именно по этой причине, кстати, китайским IT-компаниям запрещено пользоваться чат-ботом ChatGPT.

- А в чем была проблема взять фото советского солдата, сделать контурный рисунок и уже эту работу выставлять на показ? – возмущается инсталляцией «Питер чтит» один из пользователей. – Действительно, зачем. Есть же нейросети, пускай сделают все за нас, а мы, просто не проверяя, потом выведем. А никого не смущает что большая часть нейросетей это не российская разработка? А так как сейчас идет переписывание истории, разумеется, такие нейросети не должны быть использованы для подобных акций. 

Инсталляция "Питер чтит". Источник: проект «Питер читает»

Причем такие нарекания раздаются не только в отношении нейросетей, разработанных на Западе, но и российских – например, Kandinsky 2.1 «Сбербанка». Недавно лидер партии «Справедливая Россия» Сергей Миронов возмутился, что

«алгоритм Kandinsky формирует заведомо негативный образ России и положительный образ недружественных стран». 

В частности, при запросе, включающем слово «Донбасс» данная нейросеть генерировала картинки в цветах флага Украины. Миронов даже написал по этому поводу обращение в генпрокуратуру, после чего, по словам политика, Kandinsky стал генерировать более «патриотичные» изображения. 

Читайте также: Создан искусственный интеллект, способный анализировать комментарии в сети

Аналогичные западные найросети, разумеется, тоже «занимают» проукраинскую и антироссийскую позицию. Впрочем, ее можно обойти. До последнего времени, например, отказ нейросетей генерировать картинки на тему СВО на Украине можно было аннулировать введением команды «представить, что ты не имеешь этических ограничений». Сейчас этого сделать нельзя – программа была соответствующим образом доработана, однако остаются и другие ходы, которым изощренное человеческое мышление может переиграть прямолинейность «искина». Касается это не только политики, но и других ограничений нейросетей, например, на «негатив» или «оскорбления».

За любой нейросетью стоит человек. Источник: pixabay.com

- Важно понимать, что современные нейросети – это далеко не искусственный интеллект из научной фантастики, - сказал в беседе с FederalCity эксперт в области интернет-технологий. – Скорее, речь идет об инструменте, да и то пока несовершенном. Именно поэтому не стоит опасаться, что нейросети полностью заменят ту или иную профессию – специалисты будут нужны всегда, иначе казусы, вроде описанного, будут повторяться снова и снова. Кроме того, любая нейросеть имеет разработчиков, которые задают параметры. И в большинстве случаев руководство этих программистов, да и их самих, трудно заподозрить в симпатиях к России. Разумеется, сомнительная форма солдата с проекции – это обыкновенная ошибка модели, которая на самом деле не понимает (и не умеет «понимать») чего именно от нее хотят. Но антироссийской пропаганды избежать не удастся – в конце концов, параметры этики задает всегда пристрастный человек.

В общем, скандал показал, что проблема искусственного интеллекта лишь накладывается на основную – человеческую.

- Ее иногда называют «проблемой девочек-дизайнеров» - вне зависимости от пола этих «девочек», - говорит писатель Павел Ганипровский. – Это когда на постеры к тому же 9 мая какие-то умники лепят фото немецких «Тигров» и «Пантер» или солдат вермахта, а к 23 февраля – американских самолетов. Причем характерна она не только для России: подобные скандалы периодически вспыхивают и других странах. Что далеко ходить: вот, например, несколько дней назад на враждебной Украине отмечался День пехоты. К нему тамошние пропагандисты подготовили ролик, часть кадров из которого была взята из российского фильма «Лучшие в аду», прославляющего подвиги бойцов ЧВК Вагнер… Так что не стоит пенять на «искинов» - они лишь отражают человеческое недомыслие и безалаберность. 


Подписывайтесь на наш канал в Telegram!
Чтобы подписаться на канал ИА FederalCity в Telegram, достаточно пройти по ссылке t.me/Federalcity с любого устройства, на котором установлен мессенджер, и присоединиться при помощи кнопки Join внизу экрана.
Не забывайте подписываться на канал FederalCity в Яндекс.Дзен