ИИ должен быть тщательно адаптирован на благо малоимущих, как показывают исследования в Кении, Того и Сьерра-Леоне

В условиях, когда искусственный интеллект (ИИ) меняет развивающиеся страны, он создает знакомые риски сбоев, дезинформации и слежки, но также сулит множество потенциальных выгод. Последние примеры иллюстрируют, как технологии на основе ИИ могут обеспечить более адресное предоставление помощи и кредитов, а также улучшить доступ к индивидуальному обучению и медицинской помощи. Но поддержание баланса между этими рисками и возможностями означает нечто большее, чем просто применение существующих технологий, — оно требует инноваций и адаптации на местном уровне.

Большинство последних достижений в области искусственного интеллекта имело место в богатых странах — они разрабатывались в этих странах для местных пользователей с использованием местных данных. В течение последних нескольких лет мы проводим исследования совместно с партнерами в странах с низким доходом, работая над возможностями применения ИИ в случае этих стран, пользователей и данных. В таких условиях решения на основе ИИ будут эффективными, только если они будут соответствовать местному социальному и институциональному контексту.

В Того, где правительство использовало технологии машинного обучения для адресного предоставления денежной помощи во время пандемии COVID-19, мы обнаружили, что адаптация ИИ к местным условиям имела ключевое значение для достижения успешных результатов. Правительство переориентировало технологии, изначально разработанные для адресного охвата онлайн-рекламой, на выполнение задачи определения беднейших жителей страны. Система, используя ИИ, обрабатывала данные, полученные со спутников и от операторов мобильной связи, чтобы выявить признаки бедности, такие как села, которые на аэрофотоснимках выглядели недостаточно развитыми, и абоненты мобильной связи с малыми балансами телефонов. Адресный охват помощью на основе этих признаков помог добиться того, чтобы денежные трансферты дошли до наиболее нуждающихся людей (Aiken et al., 2022).

Такой способ применения ИИ в Того был эффективным только потому, что правительство в сотрудничестве с исследователями и некоммерческими организациями адаптировало эти технологии для удовлетворения местных потребностей. Они создали систему распределения мобильных денежных платежей, эффективную для всех абонентов мобильной связи, адаптировали существующее программное обеспечение машинного обучения для адресного осуществления денежных трансфертов и опросили десятки тысяч получателей платежей с целью обеспечить, чтобы система отражала местное определение бедности. И даже тогда решение на основе ИИ не задумывалось как постоянное: после окончания пандемии оно должно было быть поэтапно свернуто.

В связи с этой программой на основе ИИ также возникла еще одна сложность: алгоритмы, хорошо работающие в лаборатории, могут быть ненадежными при их внедрении для принятия значимых решений на местах. Например, в системе адресного предоставления помощи, такой как система в Того, люди могут адаптировать свое поведение с целью иметь право на получение пособий, тем самым подрывая способность системы направлять денежные средства малоимущим.

В других странах машинное обучение помогает определить наличие права на получение микрокредитов на основе поведения, связанного с использованием мобильных телефонов (Björkegren, Grissen, 2020). Например, в Кении более четверти взрослого населения взяли кредиты, используя свои мобильные телефоны. Но в случае большей вероятности утверждения предоставления кредита тем, у кого больше друзей в Фейсбуке, некоторые заявители могут рассмотреть возможность быстро добавить друзей. В конечном счете это может затруднить адресный охват системами предусмотренных лиц.

В исследовании с участием Центра Busara в Кении мы пришли к выводу, что люди в состоянии научиться корректировать свое поведение, связанное с использованием смартфонов, в ответ на такие алгоритмические правила (Björkegren, Blumenstock, Knight, готовится к публикации). Мы показали, как экспериментальная корректировка алгоритма, связанная с ожиданием такой реакции, дает лучшие результаты. Однако лишь с помощью технологий невозможно преодолеть проблемы, возникающие на практике: трудность создания таких систем в большой степени заключается в обеспечении их надежности в реальных условиях.

С другой стороны, некоторые системы, чтобы сделать их полезными, необходимо адаптировать. Например, во многих странах с более низким доходом учителя должны работать с большими классами при наличии ограниченных ресурсов. В Сьерра-Леоне местный партнер провел пилотное тестирование системы чат-ботов на основе ИИ для учителей под названием TheTeacher.AI, похожей на ChatGPT, но разработанной с учетом местной учебной программы и обучения и доступной даже в случае плохих соединений с интернетом. В пилотной фазе многие учителя не могли сформулировать вопросы таким образом, чтобы они давали полезные ответы, но небольшая группа учителей начала регулярно использовать эту систему для содействия в объяснении понятий, планировании уроков и создании учебных материалов (Choi et al., 2023). Чтобы учителя применяли ее на практике, потребовалось обучение и экспериментирование. Возможности использования ИИ могут не быть непосредственно очевидными для тех, кто от него выиграет; открытие этих многочисленных возможностей зависит от метода проб и ошибок и обмена способами применения ИИ, которые могут быть полезны.

Барьеры, связанные с информированием

Воспользоваться потенциалом ИИ, вероятно, будет труднее людям в странах с более низким доходом, где уровни грамотности и владения арифметикой ниже и жители которых меньше знакомы с цифровыми данными и алгоритмами, обрабатывающими эту информацию. Например, в нашем эксперименте на месте в Найроби (Кения) мы испытывали трудности с объяснением простых алгоритмов с отрицательными числами и дробями жителям с низкими доходами. Но наша группа нашла более простые способы информирования об этих концепциях. Когда люди реагировали на алгоритм, было ясно, что они разобрались в концепции. Тем не менее, сложные системы ИИ являются трудными для понимания, даже для исследователей в области ИИ.

Некоторые способы применения ИИ не требуют того, чтобы пользователи знали, как работают алгоритмы. Например, рекомендации относительно фильмов Netflix могут быть полезны пользователям, даже если они не понимают, как алгоритм выбирает контент, который, как он полагает, им понравится. Аналогичным образом, в условиях гуманитарного кризиса директивные органы могут считать приемлемым использование малопонятного алгоритма — «черного ящика», как это делало правительство Того в связи с кризисом COVID-19.

В некоторых случаях принципиальное значение имеет прозрачность. При адресном охвате социальной защитой в условиях, кроме чрезвычайных, важно разъяснить потенциальным получателям помощи критерии права на ее получение. На практике это не так просто: как показали многочисленные опросы и фокус-группы, нормы и ценности в отношении данных и конфиденциальности в условиях сельской местности в Того коренным образом отличаются от норм и ценностей в богатых странах, где системы на основе ИИ встречаются чаще. Так, немногие из тех, с кем мы побеседовали, обеспокоены доступом к их данным правительства и компаний (вопросом, вызывающим наибольшие опасения в Европе и США), но многих интересовало, будет ли такая информация сообщаться их соседям и как это будет делаться.

По мере более широкого внедрения ИИ население должно понимать более широкие последствия этого процесса для общества. Например, ИИ может генерировать провокационные фотографии, являющиеся полностью фальшивыми, и автоматизированные телефонные звонки, имитирующие голоса людей. От этих быстрых изменений будет зависеть то, в какой степени людям следует доверять информации, которую они видят в режиме онлайн. Даже население отдаленных районов должно быть информировано о таких возможных вариантах, с тем чтобы его не могли ввести в заблуждение и для гарантии того, что его опасения будут учтены в процессе разработки нормативных положений.

Развитие соединений

Решения на основе ИИ опираются на существующую материальную цифровую инфраструктуру: от огромных баз данных на серверах, оптоволоконных кабелей и вышек мобильной связи до мобильных телефонов в руках людей. За последние два десятилетия развивающиеся страны осуществили крупные инвестиции в обеспечение связи с отдаленными районами посредством сотового соединения и соединения с интернетом, заложив основу для этих новых способов их применения.

Несмотря на то что при применении ИИ используется цифровая инфраструктура, в случае некоторых способов его применения можно эффективнее использовать существующие ресурсы. Например, многие учителя в Сьерра-Леоне испытывают трудности в связи с плохим доступом к интернету. В случае некоторых задач может быть легче черпать идеи из чат-бота, а затем проверить ответ, чем собирать информацию из нескольких ресурсов в режиме онлайн.

Однако некоторые системы ИИ потребуют инвестиций в инфраструктуру знаний, особенно в развивающихся странах, где сохраняются разрывы в сфере данных, а малоимущие недостаточно представлены в сфере цифровых технологий. Существующие там модели ИИ располагают неполной информацией о потребностях и желаниях жителей с более низким доходом, состоянии их здоровья, внешних характеристиках этих людей и сел, структуре менее употребительных языков.

Для сбора этих данных может потребоваться интегрировать в цифровые системы ведения учета клиники, школы и предприятия; создать стимулы для использования этих систем и установить юридические права в отношении получаемых в результате данных.

Кроме того, системы ИИ должны учитывать местные ценности и условия. Например, западные системы ИИ могут предлагать учителям использовать дорогие ресурсы, такие как цифровые доски или цифровые слайдовые презентации. Эти системы должны быть адаптированы, чтобы быть полезными учителям, не располагающим такими ресурсами. Инвестиции в потенциал и подготовку местных разработчиков и конструкторов ИИ могут обеспечить, чтобы технические инновации следующего поколения лучше отражали местные ценности и приоритеты.

Искусственный интеллект сулит множество полезных способов его применения в целях малоимущих в развивающихся странах. Трудность заключается не в том, чтобы смело мечтать (легко представить себе, как малоимущие могут выиграть от этих систем), а в обеспечении того, чтобы эти системы удовлетворяли потребности людей, были эффективными в местных условиях и не наносили ущерба.

ДЭНИЕЛ БЬОРКЕГРЕН — доцент Школы международных и общественных отношений Колумбийского университета.

ДЖОШУА БЛЮМЕНСТОК — доцент ректора Калифорнийского университета в Беркли, Школа информации и Школа государственной политики Ричарда и Роды Голдман.

Мнения, выраженные в статьях и других материалах, принадлежат авторам и необязательно отражают политику МВФ.