Границы искусственного: на X Банковской юридической конференции обсудили будущее регулирования финансовых технологий

Президент Ассоциации банков России Анатолий Козлачков предложил участникам дискуссии поделиться своими взглядами на риски использования искусственного интеллекта в общественных отношениях, а также посмотреть на европейскую модель работы с персональными данными. Он напомнил, что европейский подход к ИИ базируется на запрете передавать искусственному интеллекту право принимать решения за человека. При этом технология, соприкасаясь с социумом, может выступать только в качестве советника.

Член Совета при Президенте РФ по развитию гражданского общества и правам человека Игорь Ашманов выступил за введение полноценного регулирования искусственного интеллекта. Он отметил, что сейчас у ИИ нет прямого доступа к реальной действительности, но в США всерьез рассматривается возможность дать ему "приводные ремни к реальности" - подключить ИИ к управлению процессами реального мира.

При этом у ИИ есть изначальные ограничения в компетенции, поскольку он обучается на текстах, а тексты не описывают всю полноту реальности - прагматические аспекты опыта человека недоступны ИИ. Кроме того, настройка предпочтений в выборе наиболее подходящих ответов на запросы со стороны ChatGPT, например, ведется с учетом определенных идеологических установок. Поэтому "бояться надо не ИИ, а умных и злых людей, которые им управляют", - сказал Игорь Ашманов.

По его оценке, саморегулирование в сфере использования ИИ и оборота персональных данных не работает. Более того, принятие индустрией различных этических кодексов не приводит к положительным результатам и во многом преследует цель отсрочить принятие нормального законодательного и нормативного регулирования.

Игорь Ашманов выступил также за более жесткое регулирование и надзор за оборотом персональных данных. В настоящее время сбор данных происходит бесконтрольно и в объемах существенно больше необходимого минимума - таким образом компании накапливают "первоначальный цифровой капитал", чтобы использовать его для целевого продвижения и продаж товаров и услуг. По его оценке, вместо 5 млн операторов данных достаточно порядка 50 крупных хабов, которые будут максимально защищены.

Руководитель факультета права НИУ ВШЭ Антон Иванов отметил, что искусственный интеллект не стоит наделять субъектностью и приписывать ему свободу воли. В действительности нейросети контролируемы и во многом функционируют на базе взглядов их разработчиков.

«Пока искусственный интеллект формируется в условиях неправильной картины мира, поскольку он оценивает частоту повторения тех или иных материалов и, в зависимости от частоты, отмечает их значимость», – заметил Антон Иванов. Таким образом, редкие или неоцифрованные тексты не попадают в орбиту нейросетей, заключил эксперт: «Искусственный интеллект не опирается на всю палитру знаний».

В ходе дискуссии о развитии законодательства в области информационных технологий Антон Иванов высказался против чрезмерно жесткого регулирования в цифровой сфере. «В моем представлении, развить что-то, сразу создавая жесткое регулирование, невозможно. Сначала надо дать свободу, а потом ее определенным образом упорядочить. Потому что никто не знает, в каком направлении происходит развитие», – заявил он.

Резюмируя обсуждение, президент Ассоциации банков России Анатолий Козлачков сказал: «Когда технология развивается, проникает в социальные отношения и начинает их перестраивать, возникает негативный эффект, и мы как юристы, должны купировать этот эффект. Но в той части, где риск виден только профессионалам, а обществу не заметен, мы должны дать технологии развиться, и посмотреть, куда ведет такое развитие технологий при соприкосновении с социумом».

Говоря о перспективах регулирования оборота персональных данных, он допустил, что одной из основных форм развития может стать создание сверхзащищенных хабов, но при этом необходимо определить и установить их ответственность перед гражданами.

X Банковская юридическая конференция проходит 18-19 декабря в Москве, в ее работе принимают участие более 300 человек в очном и онлайн-формате. Организатор — Ассоциация банков России.

Генеральный спонсор — «Газпромбанк» (АО), партнер — Московский гарантийный фонд, спонсоры круглых столов — АНО «Объединенный Медиативный центр», Portal DA. Информационные партнеры: «Прайм», «Интерфакс», NBJ, «Банковское дело», «Банковское обозрение», BIS Journal, издательство «ИнтерКрим-Пресс», издательская группа «Юрист», «ПЛАС», Bankiros.ru, Выберу.ру, «Все займы онлайн».