AI4Future: Основні новини ШІ тижня -- Delo.ua
Цей тиждень приніс значні події в регуляторній сфері як на міжнародному рівні, так і в Україні. У Сполучених Штатах схвалили рекомендації щодо "Профілю управління ризиками для штучного інтелекту та прав людини", тоді як в Україні оприлюднили рекомендації з використання ШІ в маркетингових та рекламних практиках.
Наукова спільнота завзято обговорювала дилему щодо поступового вичерпання даних, які мають дозвіл (сconsent) на їхнє використання для навчання моделей, отже рано чи пізно доведеться тренувати ШІ-моделі на даних створених ШІ, а це, як свідчать труди вчених, веде до колапсу ШІ-моделей. Не додає оптимізму і той факт, що великі ШІ-моделі не дають згоди на впровадження інструментів з маркування даних (що мають сказати, чи були ці дані створені людьми або ШІ), аби не псувати монетизацію, що знову ж таки призводить до погіршення ситуації з розрізненням контенту, згенерованого людьми (чи ШІ), а це критично важливо знати для тренування моделей.
Окрім цього, на ринку точилась неабияка конкуренція. Так, двоє співзасновників OpenAI Шульман і Брокман покинули компанію: Шульман пішов до прямого конкурента Anthropic, а Брокман -у тривалу відпустку. Стартап Groq з виробництва чипів залучив $640 млн., щоб кинути виклик Nvidia. А німецька лабораторія ШІ Black Forest Labs випустила настільки круту нову open-source модель ШІ - FLUX.1, що вона, на думку експертів, перевершить Midjourney (AI4FUTURE протестував цей застосунок і залишився під впливом дуже високої якості зображень). Ну і новина про defence-tech, згідно якої AI-driven стартап у сфері оборони, заснований Палмером Лакі, Anduril, залучив $1,5 млрд. на виробництво зброї із вбудованим ШІ, демонструє те, що запровадження ШІ розглядається на найвищих ланках державного захисту і протекторату.
Огляд новин за цей тиждень.
Блогер Віл Локет на платформі Medium зазначає, що для збереження актуальності моделі, подібні до ChatGPT-4, необхідно регулярно оновлювати з використанням нових даних. Це вказує на те, що генеративний штучний інтелект вже починає "споживати" свої ж результати або результати інших ШІ під час процесу перенавчання.
Чому це проблема? Справа в тому, що він почне розпізнавати шаблони генеративного контенту ШІ, а не контенту, створеного людьми. Шаблони, які він бачить у контенті ШІ, можуть прямо суперечити тим, що він бачить у людському контенті, що призведе до непередбачуваних результатів і називається колапсом моделі. Як показало дослідження Nature, лише кілька циклів тренування генеративних моделей ШІ на їх власних результатах роблять їх повністю марними та призводять до абсолютної нісенітниці.
Письменник вважає, що в процесі цифровізації глобальних економік необхідно зважати на цей ризик.
Розкажіть детальніше.
Groq, стартап, що розробляє чипи для більш швидкої роботи з генеративними моделями ШІ, ніж працюють звичайні процесори, оголосив у понеділок про залучення $640 млн. у новому раунді фінансування під керівництвом Blackrock. У раунді також взяли участь Neuberger Berman, Type One Ventures, Cisco, KDDI і Samsung Catalyst Fund.
Сьогодні компанія Groq повідомила, що Янн Лекун, головний науковець з ШІ в Meta, приєднається до неї як технічний радник. Також до стартапу долучиться Стюарт Панн, колишній керівник бізнесу Intel та колишній CIO у HP, на посаді головного операційного директора. Призначення Лекуна є дещо несподіваним, зважаючи на те, що Meta активно інвестує у власні чипи для ШІ, але тепер Groq має сильного союзника в конкурентній боротьбі.
Розкажіть детальніше.
Джон Шульман, один із співзасновників OpenAI, залишив компанію на користь стартапу-конкурента в сфері ШІ Anthropic.
Крім того, президент і співзасновник OpenAI Грег Брокман бере тривалу відпустку -- до кінця року -- після дев'яти років роботи в компанії, щоб "розслабитися і відновити сили", як підтвердили в компанії.
Шульман поділився новиною про своє рішення на платформі X, пояснивши, що воно зумовлене прагненням заглибитися у вивчення вирівнювання штучного інтелекту (AI alignment) — галузі, яка займається забезпеченням відповідності дій ШІ людським намірам — а також присвятити більше часу практичній технічній роботі.
Розкажіть детальніше.
Крім Міністерство цифрової трансформації України, над рекомендаціями працювала ціла група експертів -- колеги з Національної Ради України з питань телебачення і радіомовлення, Держпродспоживслужбм, фахівці з профільних асоціацій IТ Ukraine Association, IAB Ukraine, VRKua, Українська Асоціація Маркетингу, Асоціація Правників України, тож поради вийшли різносторонніми.
Ці рекомендації допоможуть вам створювати неймовірний контент, дотримуючись правил, що стосуються авторського права та захисту прав споживачів.
Ознайомитися з документом можна за лінком
Надати відгук стосовно запропонованих рекомендацій
Вони повинні гарантувати, що генеративний ШІ використовується з урахуванням міжнародних прав людини.
Профіль відзначає критичну важливість гармонізації практик штучного інтелекту з правами людини для стимулювання технологічного розвитку. Він інтегрує міжнародні стандарти прав людини у підходи до управління ризиками штучного інтелекту. Базований на міжнародних правах людини, Профіль слугує універсальним інструментом для всіх галузей, спрямованим на вдосконалення методів управління ризиками штучного інтелекту, використовуючи рамкову систему управління ризиками, запропоновану U.S. National Institute of Standards and Technology (NIST) AI Risk Management Framework (AI RMF).
Розкажіть детальніше.
Компанія має намір заснувати завод, аналогічний Tesla, оснащений спеціалізованим програмним забезпеченням, розробленим для задоволення конкретних вимог, з метою виробництва автономних дронів та інших бойових технологій.
Палмер Лакі пройшов довгий шлях від того часу, коли збирав гарнітури віртуальної реальності в гаражі. Сьогодні його стартап у сфері оборонних технологій, Anduril, оголосив, що залучив $1,5 млрд. для розвитку нової виробничої платформи, яка дозволить щорічно виробляти "десятки тисяч одиниць автономної зброї". Раунд фінансування, який очолили Founders Fund та Sands Capital, може допомогти Anduril перейти від яскравого новачка в оборонній промисловості до серйозного підрядника оборонного комплексу США.
Це також свідчить про еволюцію військової стратегії, адже політики пристосовуються до нових реалій, де домінувати на полі бою будуть не лише танки та винищувачі, але й безпілотники та штучний інтелект. Вони прагнуть знайти засоби для підвищення виробничих можливостей США у сфері військової техніки, щоб конкурувати з такими потенційними суперниками, як Китай.
Розкажіть детальніше.
Німецька компанія, заснована колишніми учасниками оригінальної команди, яка розробила Stable Diffusion і нещодавно вийшла зі складу Stability AI, презентувала свій перший продукт. Він включає моделі текст-до-зображення під назвою FLUX.1. Ці моделі створені на основі "гібридної архітектури," яка об'єднує трансформери з дифузійними методами.
Ця модель представлена у трьох різних версіях:
Flux 1 Pro: [API доступ](https://docs.bfl.ml/)
* Flux 1 Dev: Відкриті ваги, але некомерційна ліцензія
* Flux 1 Schnell: Ефективна, 4-крокова дифузійна модель з відкритою ліцензією Apache 2
Якість виглядає вражаючою, і FLUX.1 демонструє значний прогрес у створенні людських рук, що раніше було слабким місцем у попередніх моделях синтезу зображень, таких як Stable Diffusion 1.5, через недостатню кількість навчальних зображень, орієнтованих на руки.
Black Forest Labs також оголосила про свій запуск і раунд фінансування на $31 млн. на етапі початкового фінансування, очолюваний Andreessen Horowitz. Разом з цим компанія залучила високопрофільних радників, включаючи виконавчого директора індустрії розваг і колишнього президента Disney Майкла Овіца та дослідника штучного інтелекту Матіаса Бетге.
Хоча текст-до-зображення генерація є поточним фокусом Black Forest, компанія планує розширитися на генерацію відео (конкуруючи з Sora від OpenAI, Gen-3 Alpha від Runway і Kling від Kuaishou).
Ви можете спробувати погратись тут, але потрібно буде безкоштовно зареєструватись на GitHub і потім перейти на сторінку провайдера рішення.
Щоденні ШІ-новини - на каналі https://t.me/ai4futuremag
