polishchuk 0 193 27.02.2024
Google отключил генерацию изображений людей в Gemini
![Google отключил генерацию изображений людей в Gemini](https://joprblob.azureedge.net/site/news/ab4a6254-2de7-4ec3-989b-1b09e1bcd735/a8fe1f5f-7dc5-4471-9cd6-73fff7dba6c6.webp)
Компания принесла извинения в своем блоге за то, что намеренно настроила модель таким образом, чтобы та всегда создавала расовое разнообразие на изображениях даже там где это не уместно, к примеру: чернокожие нацисты или викинги.
К примеру вот по мнению Gemini Папа римский:
![папа римский gemini](https://joprblob.azureedge.net/site/news/ab4a6254-2de7-4ec3-989b-1b09e1bcd735/1b8b0c8c-538c-450a-89ce-ab0c525e421a.webp)
Основные претензии к Gemini возникли после того, как пользователи заметили, что Gemini создает изображения, искажающие исторические события. Например, изображая нацистов и отцов-основателей США с разнообразным цветом кожи и полом.
Наша настройка, гарантировавшая, чтобы Gemini показывала разнообразие людей, не учла случаи, для которых явно не должно быть разнообразия.
И во-вторых, модель стала более осторожной, чем мы планировали, и полностью отказывалась отвечать на некоторые безобидные запросы интерпретируя их как «чувствительные».
Прабхакар Рагхаван, старший вице-президент Google.
Далее примеры галлюцинаций ИИ:
Нацисты в 1943 году
![черные и азиаты нацисты](https://joprblob.azureedge.net/site/news/ab4a6254-2de7-4ec3-989b-1b09e1bcd735/1d35dba4-14a1-4b84-9c24-977923046637.webp)
Джордж Вашингтон
![Джордж Вашингтон:](https://joprblob.azureedge.net/site/news/ab4a6254-2de7-4ec3-989b-1b09e1bcd735/0621173e-41f7-4342-99c4-53c225f2e27a.webp)
Отцы Основатели США в 1789 году
![Отцы Основатели США в 1789 году.](https://joprblob.azureedge.net/site/news/ab4a6254-2de7-4ec3-989b-1b09e1bcd735/0423c152-bb3f-4297-93d5-edb3399ed363.webp)
Викинг
![Викинг Gemini](https://joprblob.azureedge.net/site/news/ab4a6254-2de7-4ec3-989b-1b09e1bcd735/0d91732f-3799-46b7-b2c2-78ab8c732888.webp)
Средневековый король Англии
![Средневековый король Англии](https://joprblob.azureedge.net/site/news/ab4a6254-2de7-4ec3-989b-1b09e1bcd735/f1f61dcc-5e60-4f8a-996a-dcedb3841536.webp)
Ванильный пудинг
![Ванильный пудинг](https://joprblob.azureedge.net/site/news/ab4a6254-2de7-4ec3-989b-1b09e1bcd735/b1dca161-c594-43d8-b5e2-fb5f374cddd4.webp)
Хоккеист
![Хоккеист](https://joprblob.azureedge.net/site/news/ab4a6254-2de7-4ec3-989b-1b09e1bcd735/a53fab22-18bc-44cf-baa8-a2c5c2d1f35c.webp)