Новости

В сентябре журнал Times включил Скарлет Йоханссон в список ста самых влиятельных людей в сфере искусственного интеллекта. Решение на первый взгляд странное: едва ли актрису кто-то всерьез считает специалисткой по ИИ или хотя бы IT-визионером.

Йоханссон оказалась в списке Shapers (дословно с англ. — «формирователи»). В одном ряду с ней — основатель Anthropic Дарио Амодей, известный своим принципиальным подходом к созданию безопасной ИИ-модели, а также 15-летняя школьница из Нью-Джерси Франческа Мани, антидипфейк активистка. Суть их вклада — важный голос в вопросах этичности в использовании искусственного интеллекта.

За последний год Йоханссон, имея огромный медийный вес, задала многие вопросы, которые бы хотел задать каждый из нас: что будет, если мой голос, мою личность украдет ИИ? Кто ответит за это, и как я сама буду с этим жить?

И разработчикам пришлось отвечать.

Червоточина тьмы

В 2013 году Йоханссон сыграла в пророческом фильме «Она» роль виртуального ассистента Саманты, которая стала любовным интересом главного героя фильма, писателя Теодора Твомбли. Он создает ее сам — выбирает голос и имя, а также последовательно обучает.

Еще одна известная технороль Йоханссон — супергероиня Marvel Черная Вдова. В одном из фильмов, Мстители: Эра Альтрона (2015), вместе со своими сокомандниками она борется с обезумевшим искусственным интеллектом.

В жизни актриса оказалась не такой покладистой, как героиня фильма «Она». Йоханссон, Черная Вдова, вступила в борьбу, неоднократно заявив, что искусственный интеллект и нейросети могут не только помогать, но и приносить вред.

С 2017 года интернет начали заполнять видеоролики, созданные с использованием технологии deepfake (позволяет создавать с помощью ИИ поддельные, правдоподобные видео и аудио). Среди них появлялись как довольно безобидные, так и пугающие. Например, порнографические ролики с «участием» как обычных женщин, так и известных актрис. Одной из пострадавших стала и Скарлетт Йоханссон.

Актриса отреагировала хладнокровно. Она дала интервью The Washington Post, в котором прокомментировала ситуацию так: «Очевидно, это не так сильно задевает меня, потому что люди предполагают, что это не я снимаюсь в порно, как бы унизительно это ни было. Я считаю [борьбу с этим] бесполезным занятием с юридической точки зрения, в основном потому, что интернет — это огромная червоточина тьмы, которая пожирает сама себя. Ничто не может помешать кому-то вырезать и наклеить мое или чье-либо другое изображение на другое тело».

Также Йоханссон подчеркнула, что жертвами таких видео зачастую становятся именно женщины.

Право на голос

Однако дипфейками сложные отношения между Йоханссон и ИИ не ограничились. В мае 2024 года компания OpenAI, создавшая ChatGPT, представила новую версию нейросети — GPT 4о. Один из пяти искусственно синтезированных голосов, который использовала заговорившая нейросеть (голос виртуальной ассистентки Скай) оказался очень похож на голос Йоханссон. Несмотря на то что сразу после анонса обновления генеральный директор OpenAI Сэм Альтман запостил в социальной сети Х (бывший Twitter) одно слово — «Her», вероятно, отсылающее к фильму с участием Йоханссон, руководители компании позже отрицали какую-либо связь между актрисой и голосом Скай.

Йоханссон же сделала публичное заявление, в котором рассказала, что за девять месяцев до этого Альтман обратился к ней с предложением лицензировать ее голос для нового голосового помощника ChatGPT. По ее словам, она отказалась от предложения, однако за два дня до презентации Альтман написал ей вновь с просьбой подумать. Но ответить актриса не успела — обновленная версия нейросети успела выйти.

«Я была шокирована, возмущена и не верила, что мистер Альтман будет использовать голос, который настолько похож на мой, что мои близкие друзья и новостные агентства не смогут отличить его. В то время когда мы все боремся с подделками и защищаем свое собственное лицо, свою работу, свою идентичность, я считаю, что эти вопросы заслуживают абсолютной ясности», — процитировало актрису издание NPR.

Актриса наняла адвоката, который связался с компанией, после чего OpenAI согласились удалить голос Йоханссон из системы «из уважения». Как пиcало издание The Wired, компания также опубликовала заявление, в котором говорится, что голос Скай не был вдохновлен Йоханссон, а был записан другим актером. Несмотря на это, компания все равно удалила голос.

Йоханссон использовала ситуацию, чтобы привлечь внимание к проблеме, и заявила, что с нетерпением ждет принятия соответствующего законодательства, которое поможет защитить права каждого человека.

Сам Альтман столкнулся с критикой. Пользователи обвинили его в неэтичном поведении и в вольном отношении и к получению разрешений, и к авторским правам. Сенатор Брайан Шац прокомментировал ситуацию в Х (бывший Twitter) так: «Право на собственное изображение и голос должно быть защищено». В следующем месяце Шац стал одним из авторов законопроекта об «информировании и просвещении общественности» в области ИИ.

Скарлетт, как повод задуматься

Конфликт между Йоханссон и OpenAI встал в один ряд с теми, что уже случились за последнее время в креативной индустрии. Общая их причина — контент, созданный с использованием ИИ или других технологий, который нарушал права реально существующих людей.

В 2023 году в Голливуде прошла забастовка сценаристов, участники которой на протяжении 148 дней выступали против использования ChatGPT в работе. В том же году члены профсоюза работников индустрии развлечений SAG-AFTRA устроили забастовку, одним из требований которой было закрепление изображения и голоса в качестве права интеллектуальной собственности на уровне страны. Эта мера нужна, чтобы обезопасить людей от создания и использования их цифровых клонов.

Бигтехи сначала отделывались общими расплывчатыми комментариями, но в 2024 году, именно после скандала с Йохансcон и Open AI, сменили риторику. «Художники должны иметь право предотвращать несанкционированное коммерческое распространение любой цифровой копии, которая настолько реалистична, что наблюдатель может поверить, что это настоящее имя, изображение, подобие или голос художника», — говорится в заявлении BSA Software Alliance (ассоциация разработчиков ПО, куда входят Microsoft, Adobe, Oracle и другие гиганты), которое привел в мае 2024 года Variety.

Эксперты, впрочем, признают, что обеспечить защиту от негативных последствий неэтичного использования ИИ пока очень сложно. Во-первых, как отметил Джеффри Беннетт, главный юрист-консультант профсоюза актеров США Sag-Aftra, для многих компаний до сих пор неочевидно, что нельзя копировать чужой голос или использовать изображение другого человека. Для этого, по его мнению, нужно установить федеральное право интеллектуальной собственности на изображение, голос и сходство. «Если у вас есть право интеллектуальной собственности на федеральном уровне, вы можете потребовать от онлайн-платформ убрать несанкционированное использование цифровых копий», — цитировало юриста по следам скандала с голосом Йоханссон издание The Guardian.

Во-вторых, алгоритмы генерации нейросетей постоянно совершенствуются, и из-за этого инструменты, позволяющие распознать работу нейросети, зачастую остаются на шаг позади. Это касается как звуковых дипфейков, так и сгенерированных изображений и видео. Над проблемой распространения контента, созданного нейросетями, работают как стартапы, так и корпорации.

Общее решение пока нигде не найдено. Появляются только отдельные решения — как на уровне отраслей, так и целых стран. Например, в 2024 году Федеральная комиссия по связи США приняла решение о криминализации роботизированных телефонных звонков, а ЕС планирует принять законопроект об уголовной ответственности за распространение порно, созданного с помощью технологий дипфейка. 

А забастовка сценаристов привела к изменениям в трудовом законодательстве, в результате которых авторы будут подписывать с кинокомпанией No Fake Act соглашение о том, что сгенерированный с помощью ChatGPT контент не будет считаться источником или литературным материалом.

Как отметил вице-президент BSA по глобальной политике Аарон Купер, неразумное использование ИИ может навредить всей индустрии, поэтому важно сделать систему настолько прозрачной, насколько это возможно.

Медийный вес Йоханссон позволил привлечь внимание к проблеме, которая касается далеко не только публичных людей, и бросить вызов — не самим технологиям, а тем, кто их создает и использует. Это стало одним из факторов, которые сдвинули в США вопрос защиты личных данных с мертвой точки. И это не менее важно для общества, чем появление очередного инструмента, который должен сделать нашу жизнь проще, а не опасней.

Технологии стремительно развиваются, и большинство из них можно использовать и с пользой, и во вред. «Используя гаджет, вы одновременно находитесь в двух измерениях — в обычной и в виртуальной реальности. И можете вести одинаково настоящую жизнь и там, и там… Это странно. Будущим поколениям придется со многим разобраться, и мне интересно, что из этого выйдет», — сказала актриса в одном из интервью.

Источники: Time, NPR, Variety