- Категорія
- ІТ та Телеком
- Дата публікації
- Змінити мову
- Читать на русском
AI4Future: Головні ШІ-новини тижня
Цей тиждень ознаменували важливі новини в сфері регулювання в світі та в Україні. Так, в США затвердили рекомендації щодо «Профілю управління ризиками для ШІ та прав людини», а в Україні побачили світ рекомендації щодо використання ШІ в маркетингу і рекламі.
Наукова спільнота завзято обговорювала дилему щодо поступового вичерпання даних, які мають дозвіл (сconsent) на їхнє використання для навчання моделей, отже рано чи пізно доведеться тренувати ШІ-моделі на даних створених ШІ, а це, як свідчать труди вчених, веде до колапсу ШІ-моделей. Не додає оптимізму і той факт, що великі ШІ-моделі не дають згоди на впровадження інструментів з маркування даних (що мають сказати, чи були ці дані створені людьми або ШІ), аби не псувати монетизацію, що знову ж таки призводить до погіршення ситуації з розрізненням контенту, згенерованого людьми (чи ШІ), а це критично важливо знати для тренування моделей.
Окрім цього, на ринку точилась неабияка конкуренція. Так, двоє співзасновників OpenAI Шульман і Брокман покинули компанію: Шульман пішов до прямого конкурента Anthropic, а Брокман -у тривалу відпустку. Стартап Groq з виробництва чипів залучив $640 млн., щоб кинути виклик Nvidia. А німецька лабораторія ШІ Black Forest Labs випустила настільки круту нову open-source модель ШІ - FLUX.1, що вона, на думку експертів, перевершить Midjourney (AI4FUTURE протестував цей застосунок і залишився під впливом дуже високої якості зображень). Ну і новина про defence-tech, згідно якої AI-driven стартап у сфері оборони, заснований Палмером Лакі, Anduril, залучив $1,5 млрд. на виробництво зброї із вбудованим ШІ, демонструє те, що запровадження ШІ розглядається на найвищих ланках державного захисту і протекторату.
Підписуйтеся на YouTube-канал delo.uaОгляд новин за цей тиждень.
Генеративний ШІ може опинитись на межі самознищення за кілька років
Автор блогу на Medium (Віл Локет) говорить про те, що такі моделі, як ChatGPT4, повинні постійно проходити перенавчання на нових даних, щоб залишатися корисними. Це означає, що генеративний ШІ вже починає з’їдати сам себе, проходячи тренування на власних результатах або результатах інших ШІ.
Чому це проблема? Справа в тому, що він почне розпізнавати шаблони генеративного контенту ШІ, а не контенту, створеного людьми. Шаблони, які він бачить у контенті ШІ, можуть прямо суперечити тим, що він бачить у людському контенті, що призведе до непередбачуваних результатів і називається колапсом моделі. Як показало дослідження Nature, лише кілька циклів тренування генеративних моделей ШІ на їх власних результатах роблять їх повністю марними та призводять до абсолютної нісенітниці.
Автор припускає, що в ході діджиталізації світових економік варто враховувати цей ризик.
Стартап Groq з виробництва чипів залучає $640 млн., щоб кинути виклик Nvidia
Groq, стартап, що розробляє чипи для більш швидкої роботи з генеративними моделями ШІ, ніж працюють звичайні процесори, оголосив у понеділок про залучення $640 млн. у новому раунді фінансування під керівництвом Blackrock. У раунді також взяли участь Neuberger Berman, Type One Ventures, Cisco, KDDI і Samsung Catalyst Fund.
Сьогодні Groq оголосила, що головний науковець Meta з ШІ Янн Лекун стане технічним радником Groq, а Стюарт Панн, колишній керівник бізнесу Intel і колишній CIO у HP, приєднається до стартапу як головний операційний директор. Призначення Лекуна дещо неочікуване, враховуючи інвестиції Meta у власні чипи для ШІ, але це, безумовно, надає Groq потужного союзника у конкурентному середовищі.
Співзасновник OpenAI Шульман йде до Anthropic, Брокман бере тривалу відпустку
Джон Шульман, один із співзасновників OpenAI, залишив компанію на користь стартапу-конкурента в сфері ШІ Anthropic.
Крім того, президент і співзасновник OpenAI Грег Брокман бере тривалу відпустку — до кінця року — після дев’яти років роботи в компанії, щоб "розслабитися і відновити сили", як підтвердили в компанії.
Шульман опублікував повідомлення про своє рішення на X, сказавши, що воно виникло з бажання поглибити свою увагу на вирівнюванні ШІ (англ. AI alignment) — науці про забезпечення поведінки ШІ відповідно до намірів — та займатися більш практичною технічною роботою.
Мінцифра опублікувала рекомендації з відповідального використання ШІ в рекламі та маркетингу
Крім Міністерство цифрової трансформації України, над рекомендаціями працювала ціла група експертів — колеги з Національної Ради України з питань телебачення і радіомовлення, Держпродспоживслужбм, фахівці з профільних асоціацій IТ Ukraine Association, IAB Ukraine, VRKua, Українська Асоціація Маркетингу, Асоціація Правників України, тож поради вийшли різносторонніми.
Ці поради підкажуть, як створювати вау-контент і при цьому не порушувати авторське право та права споживачів.
Ознайомитися з документом можна за лінком
Поділитись фідбеком щодо рекомендацій
Державний департамент США випустив рекомендації щодо «Профілю управління ризиками для ШІ та прав людини»
Вони мають забезпечити використання генеративного ШІ у спосіб, що поважає міжнародні права людини.
Профіль підкреслює важливість узгодження практик ШІ з правами людини для сприяння технологічному прогресу. Інтегрує міжнародні права людини в практики управління ризиками ШІ. Заснований на міжнародних правах людини, Профіль служить спільним інструментом для всіх секторів, щоб покращити практики управління ризиками ШІ, спираючись на рамкову систему управління ризиками U.S. National Institute of Standards and Technology (NIST) AI Risk Management Framework (AI RMF).
Стартап у сфері оборони, заснований Палмером Лакі, Anduril, залучив $1,5 млрд. на виробництво зброї із вбудованим ШІ
Компанія планує створити фабрику на зразок Tesla, обладнану оптимізованим під потреби ПО, щоб виробляти автономні дрони та інші технології для поля бою.
Палмер Лакі пройшов довгий шлях від того часу, коли збирав гарнітури віртуальної реальності в гаражі. Сьогодні його стартап у сфері оборонних технологій, Anduril, оголосив, що залучив $1,5 млрд. для розвитку нової виробничої платформи, яка дозволить щорічно виробляти "десятки тисяч одиниць автономної зброї". Раунд фінансування, який очолили Founders Fund та Sands Capital, може допомогти Anduril перейти від яскравого новачка в оборонній промисловості до серйозного підрядника оборонного комплексу США.
Це також відображає зміну у військовому мисленні, оскільки політики адаптуються до перспективи, де поле бою контролюватимуть не тільки танки та винищувачі, але й дрони і ШІ, і шукають способи збільшити виробничі потужності Америки у створенні військової техніки, щоб зрівнятися з потенційним противником, таким як Китай.
Німецька лабораторія ШІ Black Forest Labs щойно випустила свою нову open-source модель ШІ - FLUX.1, яка перевершує Midjourney
Німецька компанія була заснована оригінальною командою, яка запустила Stable Diffusion і нещодавно покинула Stability AI. Перший продукт компанії включає їх текст-до-зображення моделі FLUX.1, які побудовані на так званій "гібридній архітектурі," що поєднує трансформери та дифузійні техніки.
Модель доступна у 3 варіантах:
• Flux 1 Pro: [Доступ через API](https://docs.bfl.ml/)
• Flux 1 Dev: Відкриті ваги, але некомерційна ліцензія
• Flux 1 Schnell: Ефективна, 4-крокова дифузійна модель з відкритою ліцензією Apache 2
Якість виглядає приголомшливо і FLUX.1 здається дуже сильною у генеруванні людських рук, що було слабким місцем у попередніх моделях синтезу зображень, таких як Stable Diffusion 1.5 через брак навчальних зображень, сфокусованих на руках.
Black Forest Labs також оголосила про свій запуск і раунд фінансування на $31 млн. на етапі початкового фінансування, очолюваний Andreessen Horowitz. Разом з цим компанія залучила високопрофільних радників, включаючи виконавчого директора індустрії розваг і колишнього президента Disney Майкла Овіца та дослідника штучного інтелекту Матіаса Бетге.
Хоча текст-до-зображення генерація є поточним фокусом Black Forest, компанія планує розширитися на генерацію відео (конкуруючи з Sora від OpenAI, Gen-3 Alpha від Runway і Kling від Kuaishou).
Ви можете спробувати погратись тут, але потрібно буде безкоштовно зареєструватись на GitHub і потім перейти на сторінку провайдера рішення.
Щоденні ШІ-новини – на каналі https://t.me/ai4futuremag