polishchuk 0 320 27.02.2024
Google отключил генерацию изображений людей в Gemini

Компания принесла извинения в своем блоге за то, что намеренно настроила модель таким образом, чтобы та всегда создавала расовое разнообразие на изображениях даже там где это не уместно, к примеру: чернокожие нацисты или викинги.
К примеру вот по мнению Gemini Папа римский:

Основные претензии к Gemini возникли после того, как пользователи заметили, что Gemini создает изображения, искажающие исторические события. Например, изображая нацистов и отцов-основателей США с разнообразным цветом кожи и полом.
Наша настройка, гарантировавшая, чтобы Gemini показывала разнообразие людей, не учла случаи, для которых явно не должно быть разнообразия.
И во-вторых, модель стала более осторожной, чем мы планировали, и полностью отказывалась отвечать на некоторые безобидные запросы интерпретируя их как «чувствительные».
Прабхакар Рагхаван, старший вице-президент Google.
Далее примеры галлюцинаций ИИ:
Нацисты в 1943 году

Джордж Вашингтон

Отцы Основатели США в 1789 году

Викинг

Средневековый король Англии

Ванильный пудинг

Хоккеист
