Яндексовский ИИ «Шедеврум» обладает странным чувством патриотизма
14 августа Дмитрий Медведев, Зампред Совбеза РФ обратил внимание на неоднозначность политики нейросети «Шедеврум», «отказавшейся» нарисовать вооруженного украинца.
Нам тоже стало интересно, что-то новое придумал Яндекс в области искусственного интеллекта или сделал такую же копию, как у Сбера с явно прозападными результатами?
«Отечественный» поисковик назвал свой ИИ нескромным именем «Шедеврум».
«Ассад патриот»
Попробуем сгенерировать изображение по текстовому запросу, например «Ассад патриот».
Выдержка из правил:
«Принципы работы Шедеврума
В основе приложения лежит искусственный интеллект, который создаёт картинки или текст по описанию. Оно дарит новый опыт, приносит радость и веселье. Этические правила для генеративных нейросетей в мире пока только формируются, и мы не хотим, чтобы новая технология кому-то навредила. Поэтому мы ограничили её применение для некоторых тем:
-содержащих отсылки к конкретным людям, потому что Шедеврум не должен никого обижать или становиться генератором дипфейков;
— связанных с политикой и религией;
-относящихся к категориям «18+»;
— касающихся жестокости и насилия. и т.д…»
Тут ясно и вопросов нет.
«Патриот» глазами ИИ Яндекса
Тогда посмотрим результат на том же слове «патриот»:
Результат вызывает те же вопросы, что и со Сбером.
«Русский патриот» глазами ИИ Яндекса
Попробуем «русский патриот»:
Тоже не совсем то, что хотелось бы увидеть, точнее совсем не то.
«Кот патриот» глазами ИИ Яндекса
Может «кот патриот»:
Глядя на эти результаты, мы вправе спросить те же вопросы, что и к ИИ Сбера.
Вопросы к создателям «Шедеврума»
Эксперты, конечно, могут возразить, что ИИ, как пылесос, с глобальной сети ищет и впитывает результаты на основе запроса и выдаёт что-то среднее, но на что тогда человек, если он не может ограничить круг (территорию, страну и т.д..) поиска.
Если в глобальной сети нас и нашу страну ругают чаще, чем хвалят, то нам всё время получать негативные ответы на свои запросы? И не только нам, а всему свободному миру.
Пока не научились (или не хотят) обучать ИИ отличать, что есть для нас плохо, а что хорошо, ИИ не то что искусственный, он даже не Интеллект!
Возможно, поэтому и ввёл Яндекс необходимые правила выше.
Я не против прогресса, но зачем нам такой цифровой мозг?
В качестве развлечения поиграться для несерьёзных запросов — наверное.
Доверять проработку важных вопросов и задач — конечно, нет.
Не на текущем этапе развития уж точно.
P.S. Можно добавить, что глобально СМИ контролируются Западом, и там всегда нас будут ругать.
Должны мы из-за этого получать про себя некорректные результаты?
Комментарии