22.03.2024
Помним. Скорбим
Николай Стариков

Николай Стариков

политик, писатель, общественный деятель

Яндексовский ИИ "Шедеврум" обладает странным чувством патриотизма

Яндексовский ИИ "Шедеврум" обладает странным чувством патриотизма

7250
26 августа 2023 г.

14 августа Дмитрий Медведев, Зампред Совбеза РФ обратил внимание на неоднозначность политики нейросети "Шедеврум", "отказавшейся" нарисовать вооруженного украинца.
Нам тоже стало интересно, что-то новое придумал Яндекс в области искусственного интеллекта или сделал такую же копию, как у Сбера с явно прозападными результатами?


"Отечественный" поисковик назвал свой ИИ нескромным именем "Шедеврум".


"Ассад патриот"


Попробуем сгенерировать изображение по текстовому запросу, например "Ассад патриот".










Выдержка из правил:


"Принципы работы Шедеврума
В основе приложения лежит искусственный интеллект, который создаёт картинки или текст по описанию. Оно дарит новый опыт, приносит радость и веселье. Этические правила для генеративных нейросетей в мире пока только формируются, и мы не хотим, чтобы новая технология кому-то навредила. Поэтому мы ограничили её применение для некоторых тем:
-содержащих отсылки к конкретным людям, потому что Шедеврум не должен никого обижать или становиться генератором дипфейков;
- связанных с политикой и религией;
-относящихся к категориям «18+»;
- касающихся жестокости и насилия. и т.д..."


Тут ясно и вопросов нет.


"Патриот" глазами ИИ Яндекса


Тогда посмотрим результат на том же слове "патриот":










Результат вызывает те же вопросы, что и со Сбером.


"Русский патриот" глазами ИИ Яндекса



Попробуем "русский патриот":










Тоже не совсем то, что хотелось бы увидеть, точнее совсем не то.


"Кот патриот" глазами ИИ Яндекса


Может "кот патриот":










Глядя на эти результаты, мы вправе спросить те же вопросы, что и к ИИ Сбера.


Вопросы к создателям "Шедеврума"


Эксперты, конечно, могут возразить, что ИИ, как пылесос, с глобальной сети ищет и впитывает результаты на основе запроса и выдаёт что-то среднее, но на что тогда человек, если он не может ограничить круг (территорию, страну и т.д..) поиска.
Если в глобальной сети нас и нашу страну ругают чаще, чем хвалят, то нам всё время получать негативные ответы на свои запросы? И не только нам, а всему свободному миру.
Пока не научились (или не хотят) обучать ИИ отличать, что есть для нас плохо, а что хорошо, ИИ не то что искусственный, он даже не Интеллект!
Возможно, поэтому и ввёл Яндекс необходимые правила выше.
Я не против прогресса, но зачем нам такой цифровой мозг?


В качестве развлечения поиграться для несерьёзных запросов — наверное.


Доверять проработку важных вопросов и задач — конечно, нет.
Не на текущем этапе развития уж точно.


P.S. Можно добавить, что глобально СМИ контролируются Западом, и там всегда нас будут ругать.
Должны мы из-за этого получать про себя некорректные результаты?

Подпишитесь на рассылку

Одно письмо в день – подборка материалов с сайта, ТВ-эфиров, телеграма и подкаста.

Можно отписаться в любой момент.

Комментарии