polishchuk 0 275 27.02.2024
Google отключил генерацию изображений людей в Gemini
Компания принесла извинения в своем блоге за то, что намеренно настроила модель таким образом, чтобы та всегда создавала расовое разнообразие на изображениях даже там где это не уместно, к примеру: чернокожие нацисты или викинги.
К примеру вот по мнению Gemini Папа римский:
Основные претензии к Gemini возникли после того, как пользователи заметили, что Gemini создает изображения, искажающие исторические события. Например, изображая нацистов и отцов-основателей США с разнообразным цветом кожи и полом.
Наша настройка, гарантировавшая, чтобы Gemini показывала разнообразие людей, не учла случаи, для которых явно не должно быть разнообразия.
И во-вторых, модель стала более осторожной, чем мы планировали, и полностью отказывалась отвечать на некоторые безобидные запросы интерпретируя их как «чувствительные».
Прабхакар Рагхаван, старший вице-президент Google.
Далее примеры галлюцинаций ИИ: