Главная страница » Sora: Революция OpenAI в сфере видеоконтента и её влияние на цифровую безопасность

Sora: Революция OpenAI в сфере видеоконтента и её влияние на цифровую безопасность

С приходом нового инструмента генеративного искусственного интеллекта от создателей ChatGPT, представленного в четверг, ожидается ускорение распространения видео deepfake и последствия для практически каждой отрасли.

Sora, приложение ИИ, которое превращает текстовые запросы в оригинальные видео, уже настолько мощно, что один эксперт по искусственному интеллекту заявляет, что оно его “пугает”.

“Инструменты генеративного ИИ развиваются настолько быстро, и у нас есть социальные сети — что приводит к ахиллесовой пяте нашей демократии, и это не могло произойти в худший момент”, — рассказал Oren Etzioni, основатель TruMedia.org, CBS MoneyWatch. Эта некоммерческая организация, посвященная борьбе с дезинформацией на основе ИИ в политических кампаниях, сосредотачивается на идентификации манипулированных медиа, включая так называемые видео deepfake.

“Пока мы пытаемся разобраться в этом, мы сталкиваемся с одними из самых значимых выборов в истории”, — добавил он, имея в виду президентские выборы 2024 года.

Создатели Sora поделились тизером своей модели текст-в-видео на X, объяснив, что она может мгновенно создавать сложные, 60-секундные видео “с высокодетализированными сценами, сложным движением камеры и несколькими персонажами с яркими эмоциями”.

Инструмент пока не доступен для широкой публики. На данный момент OpenAI ограничила его использование “красными командами” и некоторыми визуальными художниками, дизайнерами и кинорежиссерами для тестирования продукта и предоставления отзывов компании перед его более широким выпуском.

Эксперты по безопасности оценят инструмент, чтобы понять, как он потенциально может создавать дезинформацию и содержание, наполненное ненавистью, заявили в OpenAI.

Технологические достижения, по-видимому, опережают проверки и балансы для таких инструментов, считает Этциони, который верит в использование ИИ во благо и с ограничениями.

“Мы пытаемся построить этот самолет, пока летим на нем, и он должен приземлиться в ноябре, если не раньше — и у нас нет Федерального управления гражданской авиации, у нас нет истории, и у нас нет инструментов, чтобы сделать это”, — сказал он.

Единственное, что останавливает инструмент от широкого распространения, — это сама компания, добавил Этциони, выразив уверенность, что Sora или аналогичная технология от конкурента OpenAI будет выпущена в ближайшие месяцы.

Конечно, любой обычный гражданин может пострадать от мошенничества с использованием deepfake, помимо знаменитостей.

“И [Sora] еще больше упростит злонамеренным актерам создание высококачественных видео deepfake и даст им больше возможностей создавать видео, которые могут быть использованы в агрессивных целях”, — сказал доктор Эндрю Ньюэлл, главный научный сотрудник компании по верификации личности iProov, CBS MoneyWatch.

Это возлагает ответственность на организации, такие как банки, разрабатывать собственные инструменты на основе ИИ для защиты потребителей от потенциальных угроз.

Банки, которые полагаются на меры безопасности аутентификации видео, наиболее подвержены, добавил он.

Угроза для актеров, создателей
Возможности инструмента наиболее тесно связаны с навыками работников в области создания контента, включая кинопроизводство, медиа и многое другое.

“Наиболее непосредственно затронутыми будут дикторы или люди, которые делают короткие видео для видеоигр, образовательных целей или рекламы”, — сказал он.

“Для профессий, таких как маркетинг или творчество, мультимодальные модели могут стать настоящим прорывом и могут создать значительную экономию средств для кинематографистов и телевизионщиков, а также способствовать расп

ространению контента, созданного с помощью ИИ, вместо использования актеров”, — сказал Рис Хейден, старший аналитик в ABI Research, компании по технологической разведке, CBS MoneyWatch.

Учитывая, что это упрощает создание визуального контента любому — даже тем, у кого нет художественных способностей, Sora может позволить пользователям разрабатывать медиа в стиле “выбери свое приключение”.

Даже такой крупный игрок, как “Netflix, мог бы позволить конечным пользователям разрабатывать свой собственный контент на основе запросов”, сказал Хейден.

Источник: CBS News, статья “OpenAI’s new text-to-video tool, Sora, has one artificial intelligence expert ‘terrified‘” авторства Megan Cerullo.

0

Автор публикации

не в сети 17 часов

aiinsider

0
Комментарии: 0Публикации: 551Регистрация: 18-09-2023
Поделиться