Блокчейн и ИИ: на пути к этичным ценностям

С каждым днем искусственный интеллект (ИИ) все глубже проникает в нашу жизнь, обещая ускорить процессы и повысить эффективность. Однако с ростом его влияния увеличиваются и риски получения недостоверных результатов в критически важных сферах, таких как медицина или финансы.

Современные ИИ-агенты, например, торговые боты или диагностические инструменты, способны обучаться, развиваться и функционировать практически без прямого участия человека. Возникает закономерный вопрос: как обеспечить соответствие ИИ этическим нормам и общественным ценностям?

Команда исследователей, в числе которых специалисты из Университета штата Пенсильвания, представила в журнале Journal of Cybersecurity and Privacy свои наработки по применению блокчейна – технологии, лежащей в основе криптовалют, для формирования этических границ в системах ИИ.

Душан Рамляк, доцент Университета штата Пенсильвания, делится подробностями о разработанной командой концепции, исследующей возможности использования блокчейна для согласования ИИ с человеческими ценностями.

Почему поведение ИИ стало такой насущной проблемой?

Системы ИИ обучаются действовать в рамках заданных параметров. При интеграции в более сложные системы эти параметры могут изменяться, что приводит к непредсказуемому поведению, потенциально противоречащему человеческим ценностям. Примерами могут служить некорректная обработка конфиденциальных медицинских данных или рекомендации ошибочного лечения. Последствия таких ошибок могут быть весьма опасными.

По мере того как мы делегируем все больше задач ИИ, возникает острая необходимость в методах сохранения контроля над этими системами и обеспечения их этичного функционирования. ИИ способен значительно повысить нашу продуктивность, но его использование требует ответственности: необходимо создавать адекватную среду для тестирования, прогнозировать поведение ИИ заранее и гарантировать его соответствие человеческим ценностям.

Как блокчейн может способствовать этичному функционированию ИИ?

Блокчейн создает безопасные, децентрализованные цифровые записи. Криптографические методы обеспечивают прозрачность происхождения данных от входа до выхода, а журналы событий защищены от изменений. Многие системы ИИ лишены такой прозрачности, безопасности и децентрализованного контроля, которые предоставляет блокчейн.

Интеграция ИИ с блокчейном позволяет создавать системы, где решения становятся последовательными и отслеживаемыми, а правила работы и данные – более устойчивыми к манипуляциям. Механизмы консенсуса в блокчейне дают возможность широкому кругу участников голосовать по этическим правилам, которые затем фиксируются в виде «смарт-контрактов». Смарт-контракты – это исполняемые машинами этические нормы, или правила, которые срабатывают автоматически.

Такие механизмы способствуют децентрализованному сотрудничеству и демократизации в разработке систем ИИ, а также гарантируют соблюдение машинами определенных границ. Защитные функции блокчейна также затрудняют злоумышленникам манипулирование данными, используемыми для обучения ИИ, что могло бы привести к выдаче системой недостоверных или вредоносных результатов.

Какова концепция вашей команды для исследования применения блокчейна в установлении этических рамок для ИИ?

В исследовании принимали участие помощник профессора Информационных технологий и кибербезопасности Университета штата Пенсильвания Мэриам Рошанаей, магистрант в области анализа данных Джаинил Какка, аспиранты Венского университета Александр Нойлингер и Лукас Шпарeр, а также аспирант факультета естественных наук и математики Университета Крагуеваца Драгутин Остоич.

Команда проанализировала более 7000 исследований и разработала концепцию для дальнейших исследований по применению блокчейна для обеспечения этического соответствия систем ИИ. Эта концепция поддерживает безопасные, прозрачные операции и обеспечивает подотчетность.

Одно из исследований предполагает использование блокчейна для верификации входных данных ИИ и записи его результатов, что способствует отслеживаемости принятия решений. Другое исследование предлагает использовать блокчейн для создания систем репутации ИИ-агентов, стимулируя этичное поведение и ограничивая доступ к ресурсам для некорректных или несоблюдающих правила действий.

Были также выявлены пробелы в существующей литературе, что побудило нас предложить трехуровневую аналитическую модель для дальнейшего изучения применения блокчейна в сфере ИИ:

• Микроуровень анализа: Технические протоколы и кодирование для защиты пользовательских данных.
• Мезоуровень анализа: Сценарии использования ИИ на основе блокчейна в различных отраслях, таких как финансовые услуги и здравоохранение, с учетом специфических требований каждой отрасли.
• Макроуровень анализа: Моральные принципы, международные правовые и культурные стандарты, регулирующие этичное и устойчивое использование новых технологий в общественных интересах. Пример такого глобального регулирования — Закон Европейского Союза об искусственном интеллекте, направленный на обеспечение надежной разработки и ответственного использования систем ИИ посредством строгого управления и требований к прозрачности.

Каковы недостатки использования ИИ на основе блокчейна?

Масштабные системы блокчейна и ИИ могут потреблять значительное количество энергии. Кроме того, необходимо обеспечивать конфиденциальность, чтобы повышение прозрачности ИИ не приводило к раскрытию чувствительных данных. Различные страны и культурные регионы могут по-разному расставлять приоритеты в отношении таких ценностей, как конфиденциальность или справедливость. Следовательно, фреймворки для согласования должны быть достаточно гибкими, чтобы работать в разных культурах и правовых системах.

Какие дальнейшие исследования необходимы для изучения согласования ИИ на основе блокчейна с этическими нормами?

В будущих исследованиях необходимо разрабатывать многоуровневые фреймворки, интегрирующие механизмы безопасности и конфиденциальности микроуровня, отраслевое управление мезоуровня и правовые ограничения макроуровня в единую, адаптивную структуру.

Слияние блокчейна и ИИ может не только повысить надежность технических систем, но и предложить новые подходы к человеко-ориентированному управлению, обеспечивая масштабируемую подотчетность. Блокчейн предоставляет нам инструменты для разработки и использования ИИ таким образом, чтобы приоритет отдавался человеческим ценностям и общественному благосостоянию.