0 275

Google отключил генерацию изображений людей в Gemini

Google отключил генерацию изображений людей в Gemini

Компания принесла извинения в своем блоге за то, что намеренно настроила модель таким образом, чтобы та всегда создавала расовое разнообразие на изображениях даже там где это не уместно, к примеру: чернокожие нацисты или викинги.

К примеру вот по мнению Gemini Папа римский:

папа римский gemini

Основные претензии к Gemini возникли после того, как пользователи заметили, что Gemini создает изображения, искажающие исторические события. Например, изображая нацистов и отцов-основателей США с разнообразным цветом кожи и полом.

Наша настройка, гарантировавшая, чтобы Gemini показывала разнообразие людей, не учла случаи, для которых явно не должно быть разнообразия.

И во-вторых, модель стала более осторожной, чем мы планировали, и полностью отказывалась отвечать на некоторые безобидные запросы интерпретируя их как «чувствительные».

Прабхакар Рагхаван, старший вице-президент Google.

Далее примеры галлюцинаций ИИ:

Нацисты в 1943 году

черные и азиаты нацисты
Нацисты по мнению Gemini

Джордж Вашингтон

Джордж Вашингтон:

Отцы Основатели США в 1789 году

Отцы Основатели США в 1789 году.

Викинг

Викинг Gemini

Средневековый король Англии

Средневековый король Англии

Ванильный пудинг

Ванильный пудинг

Хоккеист

Хоккеист

Comments:

Please log in to be able add comments.