Компания OpenAI, создатель ChatGPT, активизировала гонку в области генеративного искусственного интеллекта, представив в четверг свой инструмент для генерации текста в видеоролики, Sora, который рассматривается как впечатляющий, но потенциально опасный шаг в бурно развивающейся экономике искусственного интеллекта на фоне опасений по поводу распространения дезинформации.
Sora, разработанная поддерживаемой Microsoft компанией OpenAI, которая также стоит за генераторами текстов и изображений ChatGPT и Dall-E, проходит тестирование на безопасность, и эксперты по ИИ говорят, что это значительное развитие существующих инструментов.
https://t.co/qbj02M4ng8 pic.twitter.com/EvngqF2ZIX
— Sam Altman (@sama) February 15, 2024
«Игра началась«, — ответил Кристобаль Валенсуэла, соучредитель и генеральный директор компании Runway, занимающейся созданием видео с помощью ИИ, которая всего несколько месяцев назад выпустила обновление Gen-2 своей видеомодели с помощью ИИ и уже доступна для использования всеми желающими.
Stability AI, еще один лидер в области генерации изображений с помощью ИИ, представила генеративную видеомодель Stable Video Diffusion в ноябре, но заявила, что она «предназначена исключительно для исследований» и не готова к «реальному или коммерческому применению на данном этапе» (однако существует список ожидания, хотя компания не сообщила, когда она будет выпущена).
Pika Labs, новый, но конкурентоспособный игрок в сфере ИИ-видео, запустила свой генеративный ИИ-видеоинструмент Pika 1.0 в ноябре, а в конце декабря объявила, что «лист ожидания окончен» и он стал доступен для всех.
Компания Google, которая недавно выпустила модель ИИ нового поколения Gemini 1.5, показала результаты исследований и демонстрационные ролики своей модели Lumiere, хотя пока неясно, когда она планирует выложить инструмент в открытый доступ, и отметила необходимость создания надежных инструментов для борьбы с предвзятостью и вредоносным контентом, чтобы обеспечить безопасное применение своей технологии.
Компания Meta, которая может похвастаться множеством приложений, включая Facebook, Instagram и WhatsApp, впервые запустила инструмент для создания видео в 2022 году под названием Make-A-Video, который создавал заметно искусственный, искаженный и размытый контент, но, тем не менее, был значительным достижением для того времени.
В конце прошлого года Meta представила новую модель преобразования текста в видео — Emu Video — и заявила, что почти все пользователи оценили ее выше Make-A-Video с точки зрения качества и верности текстовым подсказкам. Хотя компания не сообщила, когда будет выпущен этот инструмент, генеральный директор Марк Цукерберг сказал, что Emu будет интегрирован в Facebook и Instagram.
ИИ-стартап Элона Маска xAI, который, как он надеется, будет соперничать с такими лидерами индустрии, как DeepMind и OpenAI, не объявил о планах по созданию генератора текста в видео, хотя не исключено, что в будущем эта возможность будет включена в его «мятежный» ИИ-чатбот Grok.
Компания Amazon предварительно представила генеративный ИИ-чатбот для работников Q и ИИ-генератор изображений, однако гигант электронной коммерции не сообщил, когда он планирует внедрить эти инструменты, а также о том, появятся ли в будущем более продвинутые генераторы видео.
https://t.co/rmk9zI0oqO pic.twitter.com/WanFKOzdIw
— Sam Altman (@sama) February 15, 2024
МОГУ ЛИ Я УЖЕ ИСПОЛЬЗОВАТЬ SORA?
Нет. Sora еще не доступна для широкой публики, и OpenAI не указала сроки, когда это произойдет. Компания заявила, что она «предпримет несколько важных шагов по обеспечению безопасности, прежде чем сделать Sora доступной в продуктах OpenAI», добавив, что она работает с экспертами в таких областях, как дезинформация, ненавистный контент и предвзятость, чтобы протестировать модель.
КЛЮЧЕВЫЕ ВЫВОД
Обеспокоенность OpenAI тем, что ее инструменты для создания видео могут быть использованы не по назначению, разделяют практически все компании, работающие в этой области. Способность создавать реалистичный и убедительный контент может способствовать распространению опасной дезинформации или вредных материалов, таких как поддельные порнографические материалы с участием, казалось бы, реальных людей, оскорбительный контент и подстрекательские заявления политиков и компаний. В прошлом многие крупнейшие компании социальных сетей, такие как Facebook и Twitter, а теперь и X, обвинялись в том, что они не делают достаточно для борьбы с огромным количеством дезинформации и языка ненависти на своих платформах. А с развитием технологий, предупреждают эксперты, риски только возросли.
Риски становятся особенно острыми в и без того сложный предвыборный год, и компании как никогда тщательно следят за тем, чтобы побороть дезинформацию. Усовершенствование видеогенераторов облегчает создание фальшивого видеоконтента, делает его более правдоподобным, а также затрудняет его обнаружение.
Читайте также:
Уже появились фальшивые сцены и изображения Хиллари Клинтон (которая неправдоподобно поддерживала Рона ДеСантиса), президента Джо Байдена (объявлявшего о призыве в армию) и бывшего президента Дональда Трампа (арестованного и преследуемого полицией).
* Компания Meta, а также ее продукты Instagram и Facebook признаны в РФ экстремистскими.
