Google запретил создавать дипфейки с помощью Colaboratory

Компания Google «без лишнего шума» приняла решение запретить обучение систем искусственного интеллекта (ИИ), которые могут использоваться для создания дипфейков, на своей платформе Colaboratory, чаще всего именуемой Colab.

Google has quietly made the decision to ban users from creating deepfakes on its Colaboratory computing service. https://t.co/YCOe5qDR8J

— ExtremeTech (@ExtremeTech) June 2, 2022

Colab появился в конце 2017 года в рамках внутреннего исследовательского проекта Google. Он позволяет любому писать и выполнять произвольный код Python через веб-браузер, особенно код для машинного обучения и для анализа данных. С этой целью Google предоставляет как бесплатным, так и платным пользователям Colab доступ к оборудованию, включая графические процессоры и специально разработанные Google тензорные процессоры (TPU), ускоряющие ИИ.

В последние годы Colab стал де-факто платформой для демонстраций в исследовательском сообществе ИИ. Исследователи, написавшие код, нередко включают ссылки на страницы Colab в репозитории GitHub, где этот кон размещён.

Пользователи генератора дипфейков с открытым исходным кодом DeepFaceLab узнали об изменении условий использования на прошлой неделе, когда некоторые из них получили сообщение об ошибке после попытки запустить DeepFaceLab в Colab. Предупреждение гласило: «Возможно, вы выполняете запрещенный код, и это может ограничить вашу возможность использовать Colab в будущем. Обратите внимание на запрещенные действия, указанные в нашем FAQ».

Благодаря «Архиву Интернета» выяснилось, что изменения были внесены в начале прошлого месяца, причём пользователи Colab отмечают — никаких уведомлений они не получали, и вообще компания, похоже, решила свои действия сильно не афишировать. Возможно, запрет был введён из соображений этики или из-за чрезмерного злоупотребления бесплатными вычислительными ресурсами, которое уже переходило все границы.

Журналисты считают, что запрет окажет далеко идущие последствия на всё «производство» дипфейков в целом, так как многие пользователи применяли предварительно обученные на Colab модели для быстрого запуска своих проектов. Colab настолько упростил процесс создания дипфейков, что в сети появилось множество гайдов даже для тех, у кого нет опыта программирования.