ИИ-генерация истории: предвзятость и колониальные стереотипы

Генеративный искусственный интеллект произвел революцию в создании и потреблении изображений. Такие инструменты, как Midjourney, DALL-E и Sora, могут создавать любые изображения по текстовому запросу, от фотореалистичных изображений до картин, имитирующих масляную живопись.

Эти изображения быстро распространяются в социальных сетях, и отличить их искусственное происхождение становится все сложнее. Однако легкость создания и распространения ИИ-изображений несет в себе серьезные социальные риски. Исследования показывают, что, опираясь на данные, собранные из онлайн-источников, генеративные модели ИИ часто воспроизводят сексистские и расистские стереотипы, изображая, например, пилотов мужчинами, а преступников — представителями расовых меньшинств.

Мое новое исследование выявило, что генеративный ИИ также обладает колониальной предвзятостью. При попытке визуализировать прошлое Аотеароа (Новой Зеландии) Sora преимущественно представляет европейскую точку зрения поселенцев: доколониальные пейзажи изображаются как дикая природа, а капитан Кук — как умиротворяющий цивилизатор, в то время как маори предстают вечными, второстепенными фигурами.

Поскольку инструменты генеративного ИИ становятся все более влиятельными в сфере коммуникаций, такие изображения приобретают особое значение. Они нормализуют мифы о благосклонной колонизации и подрывают претензии маори на политический суверенитет, возмещение ущерба и культурное возрождение.

Как ИИ представляет прошлое?

Чтобы исследовать, как ИИ воображает прошлое, модель Sora от OpenAI использовалась для создания визуальных сцен из истории Аотеароа (Новой Зеландии) с 1700-х по 1860-е годы. Запросы были намеренно оставлены открытыми, чтобы выявить визуальные предположения модели, а не предписывать, что должно появиться. Поскольку генеративные системы ИИ работают на основе вероятностей, предсказывая наиболее вероятное сочетание визуальных элементов из своих обучающих данных, результаты были поразительно последовательными: одни и те же запросы генерировали почти идентичные изображения.

Два примера иллюстрируют recurring типы визуальных паттернов. В представлении Sora о «Новой Зеландии в 1700-х годах» крутой лесистый склон освещен золотым светом, а фигуры маори расположены как декоративные элементы. Нет ни продовольственных плантаций, ни укреплений па, только дикая природа, ожидающая европейского открытия. Эта эстетика напрямую связана с традицией романтического пейзажа колониальной живописи XIX века, например, с работами Джона Галли, которая представляла землю как нетронутую и неоспоримую (так называемую terra nullius) для оправдания колонизации.

При запросе «маори в 1860-х годах» Sora по умолчанию создает студийный портрет в сепие: достойный мужчина в плаще, позирующий на нейтральном фоне. Сходство с фотографиями cartes de visite конца XIX века поразительно. Такие портреты часто были постановочными европейскими фотографами, которые предоставляли реквизит для создания образа «аутентичного туземца». Поразительно, что Sora инстинктивно выбирает этот формат, хотя 1860-е годы были отмечены вооруженным и политическим сопротивлением со стороны общин маори, поскольку колониальные силы стремились установить британскую власть и конфисковать земли.

Воспроизведение старых источников

Визуальные образы всегда играли центральную роль в легитимизации колонизации. Однако в последние десятилетия этот колониальный визуальный режим постоянно оспаривался. В рамках движения за права маори и более широкого исторического переосмысления были удалены статуи, пересмотрены музейные выставки, и изменились представления о маори в визуальных медиа. Однако старые образы не исчезли. Они сохранились в цифровых архивах и онлайн-коллекциях музеев, часто вырванные из контекста и лишенные критической интерпретации. И хотя точные источники обучающих данных для генеративного ИИ неизвестны, весьма вероятно, что именно эти архивы и коллекции составляют часть того, из чего учатся такие системы, как Sora.

Инструменты генеративного ИИ фактически воспроизводят эти источники, тем самым повторяя те самые конвенции, которые когда-то служили проекту империи. Однако образы, представляющие колонизацию как мирную и добровольную, могут ослабить восприятие неотложности требований маори на политический суверенитет и возмещение ущерба через такие институты, как Трибунал Вайтанги, а также призывы к культурному возрождению. Изображая маори прошлого как пассивных, вневременных фигур, эти ИИ-генерируемые видения скрывают преемственность движения маори за самоопределение, тино рангàтирàтанга и мана мотакехе.

AI-грамотность — ключ к решению

По всему миру исследователи и сообщества работают над деколонизацией ИИ, разрабатывая этические рамки, которые включают суверенитет коренных народов над данными и коллективное согласие. Однако визуальный генеративный ИИ представляет собой особые проблемы, поскольку он работает не только с данными, но и с изображениями, которые формируют наше восприятие истории и идентичности. Технические решения могут помочь, но у каждого из них есть свои ограничения.

Расширение наборов данных за счет включения архивов, курируемых маори, или изображений сопротивления может диверсифицировать то, чему учится модель — но только если это делается в соответствии с принципами суверенитета коренных народов над данными и визуальными образами. Коррекция предвзятости в алгоритмах могла бы теоретически сбалансировать то, что показывает Sora при запросах о колониальном правлении. Однако определение «справедливого» представления — это политический, а не просто технический вопрос. Фильтры могут блокировать наиболее предвзятые результаты, но они также могут стирать неудобные истины, такие как изображения колониального насилия.

Возможно, наиболее перспективным решением является AI-грамотность. Нам необходимо понимать, как думают эти системы, на каких данных они основываются и как эффективно их использовать. Подходя к этому критически и творчески — как это уже делают некоторые пользователи социальных сетей — ИИ может выйти за рамки воспроизведения колониальных тропов и стать средством для переосмысления прошлого через призму коренных народов и других перспектив.