В Великобритании хотят оставить за ИИ последнее слово при принятии решений

Власти Великобритании думают о том, чтобы уменьшить возможность оспаривать решения, принятые системами искусственного интеллекта (ИИ), и требовать их пересмотра людьми. Об этом пишет CNews со ссылкой на Министерство цифровой экономики, культуры, СМИ и спорта Великобритании. Последнее опубликовало предложения об изменении режима защиты данных и пригласило сторонних экспертов высказать своё мнение по данным предложениям.

Среди предлагаемых нововведений — отмена положения, согласно которому граждане могут требовать отмены решений, принятых полностью автоматизированными системами, и пересмотра их людьми. Авторы инициативы считают, что обеспечить пересмотр каждого решения ИИ нереалистично и что для бизнеса это только лишняя нагрузка.

Однако специалисты Британского компьютерного общества (BCS), сертифицированной экспертной организации, занимающейся вопросами информационных технологий, выступили категорически против выдвинутой идеи.

«Это правило призвано обеспечить уровень прозрачности для технологии и защиты людей в процессе принятия решений автоматизированными системами, которые могут нанести им существенный вред, — отметил Сэм Де Силва (SamDeSilva), председатель юридической группы внутри BCS. — Необходимо сохранить какую бы то ни было защиту, нежели целиком полагаться на «чёрный ящик».

Положение о контроле над всеми решениями ИИ прописано в ст. 22 Общего регламента по защите данных Евросоюза (GDPR), который Великобритания полностью ратифицировала, пока входила в ЕС. Теперь власти страны хотят установить собственные правила, чтобы «подхлестнуть развитие технологий, внедрение инноваций и рост конкурентного потенциала».

Речь не идёт о полной отмене возможности пересмотреть решения ИИ. В особо рискованных сферах её предлагается сохранить, но в целом министерство считает, что рост автоматизации принятия решений в разных отраслях будет только расти в ближайшие годы, поэтому нужно определить, где именно необходимо сохранять возможность «ручного» пересмотра.

Эксперты в общем согласны, что у ст. 22 есть свой недостаток — невнятность и пространство для разночтений. Однако полный отказ от неё — всё же наименее предпочтительный вариант, считают они.