У ИИ нет проблемы с доверием; у него проблема с переводом

Дискуссия вокруг искусственного интеллекта достигла предсказуемого тупика. Пользователи говорят, что не доверяют ИИ. Компании обещают прозрачность. Регуляторы угрожают вмешательством. Однако основная проблема остается: люди не могут доверять тому, чего не понимают, а большинство систем ИИ по-прежнему общаются способами, которые кажутся пользователям чуждыми. 

Кризис доверия связан не столько с самим доверием, сколько с переводом. Когда заявка на кредит отклоняется, кандидат на работу отсеивается или заявление о намерениях студента помечается как плагиат с использованием ИИ, система редко объясняет свои рассуждения в понятных для человека терминах. Пользователи остаются в догадках, разочарованы и скептически настроены.

Технология высокофункциональна, но не показывает своей работы; отсутствует объяснимость. 

Этот разрыв в переводе имеет экономические и социальные последствия. Глобальное исследование KPMG 2023 года показало, что 61 процент людей с осторожностью относятся к доверию системам ИИ, и только половина считает, что преимущества перевешивают риски. Это недоверие стоит бизнесу миллиарды в нереализованной производительности из-за задержки внедрения ИИ.

Но проблема выходит за рамки бизнес-результатов. Во многих секторах системы ИИ теперь формируют решения, оказывающие значительное личное влияние. Когда эти системы не могут объяснить себя, они становятся неподотчетными привратниками.

Образование является ярким примером. Алгоритмы оценивают тысячи точек данных от академической успеваемости, финансовых возможностей, местоположения до карьерных целей и выдают рекомендации, влияющие на будущее студентов.

Похожее: Могут ли 'ИИ-судьи' быть решением проблем в судебной системе Нигерии?

Тем не менее, студенты редко знают, почему появляются определенные варианты или как система интерпретирует их информацию. Подобная непрозрачность наблюдается в здравоохранении, найме, финансах и государственных услугах.

Аргумент о том, что ИИ "слишком сложен для объяснения", упускает суть. Барьером является не сложность, а коммуникация. Другие области ежедневно переводят сложную информацию для неспециалистов. Задача не в том, чтобы упростить базовые системы, а в том, чтобы выразить их логику способами, понятными пользователям.

Хотя исследования технической объяснимости продолжают развиваться, они предлагают методы для отслеживания поведения модели. Однако эти методы мало что значат, если объяснения требуют базовых знаний в предметной области. Решение проблемы перевода требует не только раскрытия внутренней логики; оно требует создания объяснений, которые понятны, релевантны и удобны в использовании.

Решение проблемы разрыва в переводе позволило бы обеспечить более быстрое и уверенное внедрение. Люди используют инструменты, которые понимают. Когда пользователи понимают, почему система ведет себя определенным образом, они с большей вероятностью примут и эффективно используют ее рекомендации.

Двигаясь вперед, разработчики должны спрашивать не только "работает ли это?", но и "могут ли пользователи понять, почему это работает?". Организации, внедряющие ИИ, должны инвестировать в дизайн коммуникаций наряду с технической оптимизацией.

Источник изображения: Unsplash

Регуляторы должны требовать объяснений, направленных на пользователей, а не только документацию для аудиторов. Четкие объяснения способствуют принятию лучших решений, большей вовлеченности и более справедливым результатам. 

Перевод должен стать основной функцией систем ИИ. Это означает разработку инструментов, которые общаются на простом языке, тестирование объяснений с реальными пользователями и отказ от развертывания систем, которые не могут четко сформулировать свои рассуждения. Технология, влияющая на жизнь людей, должна уметь объяснять себя. Все, что меньше этого, является не проблемой доверия, а неудачей перевода.

Об авторе

Матильда Оладимеджи - докторант-исследователь в области информационных систем в Университете штата Луизиана, где она изучает объяснимость ИИ и доверие пользователей.

Ранее она работала региональным маркетинговым менеджером Intake Education по всей Африке, управляя цифровыми кампаниями для более чем 100 университетов.​​​​​