Италия стала первой западной страной, запретившей ChatGPT. Вот что делают другие страны

Италия стала первой страной на Западе, запретившей ChatGPT, популярный чат-бот с искусственным интеллектом от американского стартапа OpenAI.

На прошлой неделе итальянский орган по защите данных приказал OpenAI временно прекратить обработку данных итальянских пользователей на фоне расследования подозрений в нарушении строгих европейских норм конфиденциальности.

Регулятор, известный также как Garante, ссылался на нарушение данных в OpenAI, которое позволило пользователям просматривать заголовки разговоров других пользователей с чат-ботом.

Похоже, что «отсутствует правовая основа для массового сбора и обработки персональных данных с целью «обучения» алгоритмов, на которые опирается платформа», — говорится в заявлении Garante в пятницу.

Garante также выразила беспокойство по поводу отсутствия возрастных ограничений на ChatGPT и того, как чат-бот может предоставлять в своих ответах фактически неверную информацию.

OpenAI, который поддерживается компанией Microsoft

рискует получить штраф в размере 20 миллионов евро (21,8 миллиона долларов), или 4% от своего глобального годового дохода, если в течение 20 дней не предложит исправления ситуации.

Италия — не единственная страна, считающаяся с быстрыми темпами развития ИИ и его последствиями для общества. Правительства других стран разрабатывают собственные правила для ИИ, которые, независимо от того, упоминается в них генеративный ИИ или нет, несомненно, будут касаться его. Генеративный ИИ относится к набору технологий ИИ, которые генерируют новый контент на основе подсказок пользователей. Он более совершенен, чем предыдущие итерации ИИ, в немалой степени благодаря новым большим языковым моделям, которые обучаются на огромном количестве данных.

Уже давно звучат призывы к регулированию ИИ. Но темпы развития технологии таковы, что правительствам становится трудно за ними угнаться. Компьютеры теперь могут создавать реалистичные картины, писать целые эссе и даже генерировать строки кода за считанные секунды.

«Мы должны быть очень осторожны, чтобы не создать мир, в котором люди каким-то образом будут подчинены будущему машин», — сказала Софи Хэкфорд, футурист и советник по глобальным технологическим инновациям американского производителя сельскохозяйственного оборудования John Deere, в понедельник в эфире CNBC «Squawk Box Europe».

«Технологии здесь, чтобы служить нам. Они здесь, чтобы сделать диагностику рака более быстрой или избавить людей от необходимости выполнять работу, которую мы не хотим делать».

«Сейчас нам нужно очень тщательно подумать об этом, и сейчас нам нужно действовать в соответствии с этим, с точки зрения регулирования», — добавила она.

Различные регулирующие органы обеспокоены проблемами, которые ИИ создает для безопасности рабочих мест, конфиденциальности данных и равенства. Есть также опасения, что продвинутый ИИ может манипулировать политическим дискурсом путем генерирования ложной информации.

Многие правительства также начинают думать о том, как бороться с системами общего назначения, такими как ChatGPT, а некоторые даже рассматривают возможность присоединиться к Италии и запретить эту технологию.

Великобритания

На прошлой неделе Великобритания объявила о планах по регулированию ИИ. Вместо того чтобы создавать новые правила, правительство попросило регулирующие органы в различных секторах применить существующие правила к ИИ.

В предложениях Великобритании, в которых ChatGPT не упоминается по имени, изложены некоторые ключевые принципы, которым должны следовать компании при использовании ИИ в своих продуктах, включая безопасность, прозрачность, справедливость, подотчетность и состязательность.

На данном этапе Великобритания не предлагает вводить ограничения на ChatGPT или любой другой вид ИИ, если на то пошло. Вместо этого она хочет убедиться, что компании разрабатывают и используют инструменты ИИ ответственно и предоставляют пользователям достаточно информации о том, как и почему принимаются те или иные решения.

В своей речи в парламенте в прошлую среду министр цифровых технологий Мишель Донелан сказала, что внезапная популярность генеративного ИИ показывает, что риски и возможности, связанные с этой технологией, «появляются с необычайной скоростью».

Приняв неуставной подход, правительство сможет «быстро реагировать на достижения в области ИИ и при необходимости вмешиваться дальше», добавила она.

Дэн Холмс, руководитель по предотвращению мошенничества в компании Feedzai, которая использует ИИ для борьбы с финансовыми преступлениями, сказал, что главным приоритетом подхода Великобритании является решение вопроса о том, «как выглядит хорошее использование ИИ».

«Если вы используете ИИ, то вот принципы, о которых вы должны думать», — сказал Холмс в интервью CNBC. «И часто они сводятся к двум вещам — прозрачности и справедливости».

Он будет действовать в сочетании с Общим регламентом ЕС по защите данных. Эти правила регулируют, как компании могут обрабатывать и хранить персональные данные.

Когда закон об ИИ только задумывался, чиновники не учли стремительный прогресс систем ИИ, способных генерировать впечатляющие произведения искусства, истории, шутки, стихи и песни.

По данным Reuters, проект правил ЕС рассматривает ChatGPT как форму ИИ общего назначения, используемую в приложениях с высоким уровнем риска. Системы ИИ высокого риска определяются комиссией как те, которые могут повлиять на основные права или безопасность людей.

К ним будут применяться такие меры, как жесткая оценка рисков и требование искоренить дискриминацию, возникающую в результате использования наборов данных, питающих алгоритмы.

«ЕС обладает большим и глубоким опытом в области ИИ. У них есть доступ к самым талантливым специалистам в мире, и для них это не новый разговор», — сказал CNBC Макс Хайнемайер, директор по продуктам компании Darktrace.

«Стоит доверять им в том, что они думают о лучших интересах стран-участниц и полностью осознают потенциальные конкурентные преимущества, которые могут принести эти технологии, в сравнении с рисками».

Но пока Брюссель разрабатывает законы для ИИ, некоторые страны ЕС уже присматриваются к действиям Италии в отношении ChatGPT и обсуждают, стоит ли следовать ее примеру.

«В принципе, подобная процедура возможна и в Германии», — сказал газете Handelsblatt Ульрих Кельбер, федеральный комиссар Германии по защите данных.

Французский и ирландский органы по защите персональных данных связались со своими коллегами в Италии, чтобы узнать больше о ее выводах, сообщает Reuters. Шведский орган по защите данных исключил возможность запрета. Италия имеет возможность предпринять такие действия, поскольку OpenAI не имеет ни одного офиса в ЕС.

Ирландия, как правило, является наиболее активным регулятором, когда речь идет о конфиденциальности данных, поскольку большинство американских технологических гигантов, таких как Meta и Google имеют там свои офисы.

США.

США пока не предложили никаких официальных правил для обеспечения надзора за технологиями ИИ.

Национальный институт науки и технологий страны выпустил национальную рамочную программу, которая дает компаниям, использующим, разрабатывающим или внедряющим системы ИИ, рекомендации по управлению рисками и потенциальным вредом.

Однако эта система действует на добровольной основе, что означает, что компании не столкнутся с последствиями за несоблюдение правил.

До сих пор ничего не было слышно о каких-либо мерах по ограничению ChatGPT в США.