AI4Future: Главные ИИ-новости недели

Эта неделя ознаменовала важные новости в сфере регулирования в мире и в Украине. Так, в США утвердили рекомендации по «Профилю управления рисками для ИИ и прав человека», а в Украине увидели свет рекомендации по использованию ИИ в маркетинге и рекламе.  

Научное сообщество упорно обсуждало дилемму относительно постепенного исчерпания данных, имеющих разрешение (сconsent) на их использование для обучения моделей, так что рано или поздно придется тренировать ИИ-модели на данных созданных ИИ, а это, как свидетельствуют труды ученых, ведет к коллапсу ИИ- моделей. Не добавляет оптимизма и тот факт, что большие ИИ-модели не дают согласия на внедрение инструментов по маркировке данных (что должны сказать, были ли эти данные созданы людьми или ИИ), чтобы не портить монетизацию, что опять же приводит к ухудшению ситуации с разрешением контента, сгенерированного людьми (или ИИ), а это критически важно знать для тренировки моделей.  

Кроме этого, на рынке шла большая конкуренция. Так, двое соучредителей OpenAI Шульман и Брокман покинули компанию: Шульман пошел к прямому конкуренту Anthropic, а Брокман – в длительный отпуск. Стартап Groq по производству чипов привлек $640 млн, чтобы бросить вызов Nvidia. А немецкая лаборатория ИИ Black Forest Labs выпустила настолько крутую новую open-source модель ИИ – FLUX.1, что она, по мнению экспертов, превзойдет Midjourney (AI4FUTURE протестировало это приложение и осталось под влиянием очень высокого качества изображений). Ну и новость о defence-tech,   согласно которой AI-driven стартап в сфере обороны, основанный Палмером Лаки, Anduril, привлек $1,5 млрд. на производство оружия со встроенным ИИ, демонстрирует то, что введение ИИ рассматривается на высших звеньях государственной защиты и протектората.  

Обзор новостей за эту неделю.

Генеративный ИИ может оказаться на грани самоуничтожения через несколько лет

Автор блога на Medium (Вилл Локет) говорит о том, что такие модели, как ChatGPT4, должны постоянно проходить переобучение на новых данных, чтобы оставаться полезными. Это означает, что генеративный ИИ уже начинает съедать сам себя, проходя тренировки на собственных результатах или результатах других ИИ.

Почему это проблема? Дело в том, что он начнет распознавать шаблоны генеративного контента ИИ, а не контента, созданного людьми. Шаблоны, которые он видит в контенте ИИ, могут прямо противоречить тем, что он видит в человеческом контенте, что приведет к непредсказуемым результатам и называется коллапсом модели. Как показало исследование Nature, лишь несколько циклов тренировки генеративных моделей ИИ на их собственных результатах делают их полностью бесполезными и приводят к абсолютной чепухе.  

Автор предполагает, что в ходе диджитализации мировых экономик следует учитывать этот риск.

Подробнее

Стартап Groq по производству чипов привлекает $640 млн., чтобы бросить вызов Nvidia

Groq, стартап, разрабатывающий чипы для более быстрой работы с генеративными моделями ИИ, чем работают обычные процессоры, объявил в понедельник о привлечении $640 млн в новом раунде финансирования под руководством Blackrock. В раунде также приняли участие Neuberger Berman, Type One Ventures, Cisco, KDDI и Samsung Catalyst Fund.

Сегодня Groq объявила, что главный ученый Meta из ИИ Янн Лекун станет техническим советником Groq, а Стюарт Панн, бывший руководитель бизнеса Intel и бывший CIO в HP, присоединится к стартапу в качестве главного операционного директора. Назначение Лекуна несколько неожиданно, учитывая инвестиции Meta в собственные чипы для ИИ, но это, безусловно, предоставляет Groq мощного союзника в конкурентной среде.

Подробнее

Соучредитель OpenAI Шульман идет в Anthropic, Брокман берет длительный отпуск

Джон Шульман, один из соучредителей OpenAI, оставил компанию в пользу стартапа-конкурента в сфере ИИ Anthropic.

Кроме того, президент и соучредитель OpenAI Грег Брокман берет длительный отпуск – до конца года – после девяти лет работы в компании, чтобы "расслабиться и восстановить силы", как подтвердили в компании.

Шульман опубликовал сообщение о своем решении на X, сказав, что оно возникло из желания углубить свое внимание на выравнивании ИИ (англ. AI alignment) – науке об обеспечении поведения ИИ в соответствии с намерениями – и заниматься более практической технической работой.

Подробнее

Минцифра опубликовала рекомендации по ответственному использованию ИИ в рекламе и маркетинге

Кроме Министерства цифровой трансформации Украины, над рекомендациями работала целая группа экспертов — коллеги из Национального Совета Украины по вопросам телевидения и радиовещания, Госпродпотребслужбм, специалисты по профильным ассоциациям разносторонними.

Эти советы подскажут, как создавать вау-контент и при этом не нарушать авторское право и права потребителей.  

Ознакомиться с документом можно по ссылке

Поделиться фидбеком о рекомендациях

Государственный департамент США выпустил рекомендации по «Профилю управления рисками для ИИ и прав человека»

Они должны обеспечить использование генеративного ИИ способом, уважающим международные права человека.

Профиль подчеркивает важность согласования практик ИИ с правами человека для содействия технологическому прогрессу. Интегрирует международные права человека в практику управления рисками ИИ. Основанный на международных правах человека, Профиль служит общим инструментом для всех секторов, чтобы улучшить практики управления рисками ИИ, опираясь на рамочную систему управления рисками США.

Подробнее

Стартап в сфере обороны, основанный Палмером Лаки, Anduril, привлек $1,5 млрд. на производство оружия со встроенным ИИ

Компания планирует создать фабрику типа Tesla, оборудованную оптимизированным под нужды ПО, чтобы производить автономные дроны и другие технологии для поля боя.

Палмер Лаки проделал долгий путь с того времени, когда собирал гарнитуры виртуальной реальности в гараже. Сегодня его стартап в сфере оборонных технологий, Anduril, объявил, что привлек $1,5 млрд для развития новой производственной платформы, которая позволит ежегодно производить "десятки тысяч единиц автономного оружия". Раунд финансирования, возглавленный Founders Fund и Sands Capital, может помочь Anduril перейти от яркого новичка в оборонной промышленности к серьезному подрядчику оборонного комплекса.   США.

Это также отражает изменение в военном мышлении, поскольку политики адаптируются к перспективе, где поле боя будут контролировать не только танки и истребители, но и дроны и ИИ, и ищут способы увеличить производственные мощности Америки в создании военной техники, чтобы сравниться с потенциальным противником, таким как Китай.

Подробнее

Немецкая лаборатория ИИ Black Forest Labs только что выпустила свою новую open-source модель ИИ — FLUX.1, превосходящую Midjourney

Немецкая компания была основана оригинальной командой, запустившей Stable Diffusion и недавно покинувшей Stability AI. Первый продукт компании включает их текст-до-изображения модели FLUX.1, построенные на так называемой "гибридной архитектуре", сочетающей трансформеры и диффузионные техники.  

Модель доступна в 3 вариантах:

• Flux 1 Pro: [Доступ через API]( https://docs.bfl.ml/ )

• Flux 1 Dev: Открытые весы, но некоммерческая лицензия

• Flux 1 Schnell: Эффективная, 4-шаговая диффузная модель с открытой лицензией Apache 2

Качество выглядит потрясающе и FLUX.1 кажется очень сильным в генерировании человеческих рук, что было слабым местом в предыдущих моделях синтеза изображений, таких как Stable Diffusion 1.5 из-за нехватки обучающих изображений, сфокусированных на руках.

Black Forest Labs также объявила о своем запуске и раунде финансирования на $31 млн. на этапе начального финансирования, возглавляемого Andreessen Horowitz. При этом компания привлекла высокопрофильных советников, включая исполнительного директора индустрии развлечений и бывшего президента Disney Майкла Овица и исследователя искусственного интеллекта Матиаса Бетге.

Хотя текст-до-изображения генерация является текущим фокусом Black Forest, компания планирует расшириться на генерацию видео (конкурируя с Sora от OpenAI, Gen-3 Alpha от Runway и Kling от Kuaishou).  

Вы можете попробовать поиграть здесь, но нужно будет бесплатно зарегистрироваться на GitHub и затем перейти на страницу провайдера решения.

Ежедневные ИИ-новости – на канале https://t.me/ai4futuremag