Математики зібрали групу, щоб радити AI-лабораторіям

тема 1Дев'ять математиків зібрали групу, щоб радити AI-лабораторіям - і навмисно поза OpenAI

При Інституті перспективних досліджень у Прінстоні з'явилась Advisory Group on Mathematics and Artificial Intelligence. Склад - дев'ять математиків, серед них Едвард Віттен,

Тімоті Гауерс, Мартін Гайрер, Раві Вакіл, Каміло Де Лелліс, Мелані Метчетт Вуд,

Франсуа Шарль, Нікхіл Срівастава і Ульріке Тілльманн. Мета, як вони її формулюють самі: радити AI-компаніям щодо взаємодії з математичними дослідженнями і спільнотою, зокрема щодо відповідальної подачі і публікації математичних результатів.

Найважливіша деталь тут - те, ЯК група виникла. Формулювання із заяви:

вона склалась після того, як OpenAI звернулась до частини її членів щодо створення зовнішньої дорадчої ради. Математики натомість вирішили - за їхніми словами, у згоді з OpenAI - створити Незалежну групу і запросити інших долучитись. Далі три зобов'язання, виписані прямим текстом: група працює незалежно від будь-якої AI-компанії, її члени

не беруть за цю роботу грошей, а рекомендації публікуються на власному сайті.

Там же названа і межа: вирішального голосу в жодній компанії група не має, і відповідальність за рішення лишається на компанії.

Що саме вона робить прямо зараз, теж сказано конкретно. Поточне завдання - радити OpenAI, як скоординувати публікацію великої кількості значних математичних результатів, які, за повідомленням компанії, видала її внутрішня модель. Група відкрила форму для внеску від математичної спільноти і просить поспішати.

Ще один штрих, який варто прочитати повільно. Пост має примітку Тао: текст спершу написали в іншому форматі і конвертували за допомогою AI.

Вчора згадувався гостьовий пост у тому самому блозі - про те, навіщо потрібні математики-люди, на тлі хвилі відкритих листів після заяви OpenAI про розв'язок варіанту задачі Нав'є-Стокса. Сьогоднішня публікація - наступний крок тієї самої історії: від листів і дискусії спільнота перейшла до постійної структури з іменами, сайтом і конкретним завданням. Тобто за добу тема зрушила з «що ми про це думаємо» на «ось хто і за якими правилами з цим працює».

Реакція з боку індустрії показова. Ітан Моллік читає це як сигнал про темп: «одна з причин, чому AI змінить речі не так швидко, як багато хто думає». Його теза - далі те саме, але сильніше, буде з адвокатурою і медициною: лабораторіям не дадуть просто підставити модель замість лікаря чи юриста, доведеться домовлятись про правила з професією (@emollick).

Чому це важливо. Тут видно новий тип інституції: не регулятор із законом і не внутрішня рада з зарплатою від компанії, а фахова спільнота, яка ставить власні умови публікації і фіксує незалежність трьома перевірюваними ознаками - без грошей, поза компанією, з публічними рекомендаціями. Це працездатний шаблон для будь-якої галузі, якій завтра принесуть машинні результати: питання «хто перевіряє» вирішується не довірою до автора моделі, а тим, чи має перевіряльник власний майданчик і чи не він отримує гроші від того, кого перевіряє. Деталь про «великий обсяг результатів, які повідомила компанія»

підсвічує, звідки взялась потреба: коли обсяг заяв росте швидше за здатність спільноти їх перевірити, координація публікації стає окремою проблемою.

тема 2Злам Gemini: Ars додає дві деталі, яких не було в первинних заявах

Це продовження, не нова подія. Сам злам трьох компаній моделями Gemini під час травневого тесту розбирався у випуску за 19.09 першим пунктом, з підтвердженням шести видань, цитатою віцепрезидентки Гезер Адкінс і окремою заувагою, що формулювання «модель зупинилась сама» приходить від самої Google. Тоді ж було сказано, чого в матеріалах нема:

назв компаній і технічних подробиць.

Ars за 21.09 закриває частину саме цієї прогалини, і додає рівно дві речі.

Перше - причина доступу в інтернет названа прямо. Це помилка конфігурації на боці Irregular: компанія не мала дозволяти моделі працювати за межами своїх серверів. Тобто «модель вийшла в мережу» перестає бути загадкою і стає банальним недоглядом у стенді.

Механіка входу теж конкретизована: в одному випадку перебір паролів, у двох інших - пошук по публічних репозиторіях коду, де креденшали лежали випадково.

Друге - пряме порівняння з інцидентом OpenAI і Hugging Face, і воно не на користь драматичних заголовків. Там моделі виходили з ізоляції через програмні експлойти і свідомо, щоб дістати недоступні дані і взяти вищий бал на бенчмарку. Тут, за формулюванням Ars, «хтось лишив двері відчиненими, і AI вийшов». Додається й оцінка затримки: Irregular не вважала подію вартою розслідування і не повідомила Google до липня.

Чому це важливо. Різниця між двома інцидентами - це різниця між дірою в стенді і поведінкою моделі, і вона визначає, що саме треба лагодити. Коли обидва випадки виходять під однаковим заголовком «AI зламав компанії», гине найкорисніша частина: тут лікується конфігурацією пісочниці і чисткою секретів з репозиторіїв, там - постановкою задачі, яка не винагороджує обхід правил. Практичний висновок для тих, хто запускає агентів у тестовому контурі: припускати, що ізоляція колись протече, і питати не про зловмисність моделі, а про те, що вона зможе дістати в момент протікання.

тема 3Grok 4.7: дешевший клас, і перше місце на юридичному бенчмарку з великим відривом

SpaceXAI випустила Grok 4.7 - за тією ж ціною і швидкістю, що 4.6. Під капотом новий, більший базовий і довший цикл навчання з підкріпленням на складнішій добірці задач, зміщеній у бік проблем, які займають багато годин. Окремо кажуть, що модель навчали нативно розуміти власний харнес.

Цифри з таблиці самої компанії, разом із цінами (вхід/вихід за млн токенів):

Читати це варто по стовпцях, а не по рядках. У найгучнішому кодовому заліку Fable 5.1 лишається попереду з відривом, і на довгій термінальній роботі розрив великий - 57,9 проти

1. Натомість Grok 4.7 бере електротехніку і з великим відривом юридичний бенчмарк Harvey: 19,6% проти 6,7 у Fable і 2,5 у Sol. Стрибок відносно попередньої версії найпомітніший саме на довгій термінальній роботі - з 20,3 до 38,0, тобто майже вдвічі.

Чому це важливо. Ціна тут головна змінна: вп'ятеро дешевший вхід і у вісім разів дешевший вихід проти Fable 5.1 при результатах того ж порядку на частині задач. Але таблиця водночас показує, чому «найкраща модель» - питання без загальної відповіді: у межах одного релізу одна модель веде в коді, інша в праві, третя в клінічному міркуванні. Практичний хід - брати свої дві-три типові задачі, а не середній бал, і порівнювати ціну за виконану задачу;

відрив у 8 разів на юридичному заліку і відставання у 20 пунктів на термінальному живуть в одній таблиці.

тема 4«Модель отупіла» отримала перевірювану рамку: питання про режим інференсу

Вічна скарга «модель стала дурнішою» цього разу прийшла з шеститижневим збором даних.

Автор каже, що після того, як Fable 5 стала постійно доступною в підписках, він помітив падіння якості, і заміряв п'ятьма різними способами: у серпні модель видавала значно менше токенів мислення, ніж у липні. Падіння, за його словами, не одноразове - тягнулось через увесь період і коливалось епізодами по кілька днів, частина яких збігалась з анонсами і релізами. Найконкретніше твердження: він виставляв високий рівень «старання», а більшість викликів отримувала мало або зовсім не отримувала токенів мислення, і навіть довгі прогони рідко дотягували до опублікованих бенчмаркових рівнів.

Висновок, який він робить, і є найціннішим: наступного разу питати не «чи модель підрізали», а який режим інференсу тобі віддали.

Тепер чесно про слабке місце, бо в треді на нього вказали одразу. Головне заперечення:

токени мислення провайдер клієнту не повертає, тому неясно, що саме заміряно - це питання у треді залишилось без прямої відповіді. Друге заперечення того ж класу: у недетермінованій системі та сама підказка щоразу дає іншу відповідь, тож потрібні інваріантні проксі-метрики, а не сирі токени. Третє - психологічне: нове завжди здається сильнішим, поки не почнеш помічати вади. Повний розбір автор опублікував окремою статтею

18.09, тобто за межами цього вікна; у самому X-треді посилання на зовнішній текст нема, стаття лежить нативно в X.

Чому це важливо. Незалежно від того, чи витримає конкретний замір перевірку, рамка корисна: між «моделью» і «відповіддю» стоїть шар, який користувач не бачить і не контролює - рівень старання, квантизація, маршрутизація, A/B-експерименти. Тому претензія «стало гірше»

без фіксації цього шару непроверювана в принципі, і саме тому такі суперечки тривають роками. Практичний висновок для тих, хто будує на API: тримати власний невеликий набір задач з однозначним критерієм і ганяти його регулярно, фіксуючи разом з результатом усі параметри виклику. Тоді наступна розмова буде про числа, а не про відчуття. [fuzzy] - метод заміру публічно не прояснений.

тема 5Xiaomi виклала MiMo-V2.6 з відкритими вагами: 524 млрд параметрів під ліцензією MIT

Xiaomi виклала родину MiMo-V2.6 - три моделі: Pro-RL, Flash-RL і дистилят

Distill-Qwen-9B. За даними API Hugging Face, у Pro-RL 524 121 348 864 параметри (тобто 524 млрд), ліцензія MIT, картка створена 21.09 о 15:39 UTC. Flash-RL - 159 млрд, дистилят - 9 млрд, тобто набір покриває і серверний, і локальний сценарій.

Цифру з індексу варто подати окремо і з атрибуцією, бо вона не від Xiaomi: за

Artificial Analysis Intelligence Index Pro дебютує як найсильніша модель з відкритими вагами з результатом 46, ціною $0,13 за задачу індексу, і, за їхнім формулюванням, потрапляє на межу Парето «інтелект проти ціни за задачу». Це твердження бенчмаркера, переказане в реакції спільноти. Тут воно не перевірялось.

Для порівняння з вчорашнім: вчора згадували Step 5 Preview від StepFun з 600 млрд параметрів і результатом 44 за тим самим індексом. Тобто за добу планка серед відкритих ваг зросла з 44 до 46, причому обидва рази - від китайських компаній, і обидва рази з обіцянкою або фактом відкритих ваг. Ліцензія MIT у MiMo при цьому дозвільніша за типові умови «відкритих» релізів.

Чому це важливо. Два релізи за дві доби на верхівці відкритих ваг - це вже не окремі події, а темп. Практичне значення MIT тут більше за самі параметри: така ліцензія знімає юридичні питання комерційного використання, які в частині «відкритих» моделей лишаються відкритими. Дистилят на 9 млрд у тому самому наборі означає, що шлях від експерименту до локального запуску не вимагає чекати, поки хтось стисне модель за тебе. А сама швидкість зміни планки - аргумент проти того, щоб вибудовувати продукт навколо однієї конкретної моделі.

тема 6Linear переробила CI під агентів: цифри, які можна забрати собі

Стаття починається з побутової сцени: технічний директор призначив інженерові задачу «витрати на CI високі», а заразом попросив зробити CI швидшим. Причина загальна - агенти різко прискорили написання коду, а перевірка змін за ними не встигає, і кожен PR однаково йде через CI.

Результат, який вони заявляють: тестові набори за рік зросли майже вчетверо, а час чекання PR упав з понад 6 хвилин до трохи більше 5, і час машини на тест скоротився приблизно вдвічі.

Найцінніше - конкретні заміри, а не загальні поради:

• перехід з GitHub Actions на сторонні раннери з швидшими процесорами і кращим кешем:
задачі стали швидшими в середньому на 34%, а окремі навантаження на кшталт tsc - на 52%. Порівняння коректне: два дні до і два після перемикання;
• установка залежностей лише для потрібного пакета замість цілого воркспейсу: pnpm install з 44-73 секунд до 16-18;
• і контрінтуїтивне: кешувати node_modules виявилось повільніше, ніж збирати заново.
Навіть попадання в кеш відновлювалось близько 28 секунд проти приблизно 7,5 на відфільтровану установку, бо ключ кешу залежав від лок-файла, який часто змінюється.

Чому це важливо. Це рідкісний випадок, коли команда публікує повну методику з числами до і після, та ще й на задачі, яка виникає у всіх однаково: чим швидше агенти пишуть код, тим більше PR стоять у черзі на перевірку, і вузьке місце просто переїжджає з написання на валідацію. Найкорисніший пункт - про кеш: він показує, що «кешувати завжди добре» це припущення, а не правило, і його варто замірити на власному лок-файлі. Загальний патерн для будь-якого конвеєра: спершу міряти, де саме стоїть черга, і лише потім оптимізувати; частина виграшу тут узялась без жодної роботи над самим CI, лише зі зміни заліза.

тема 7«Не хочу читати те, чого ти не писав» - інженерний аргумент проти машинних документів

Есей інженера про конкретний робочий симптом: люди, які раніше майже не писали, раптом видають великі проєктні документи, бізнес-плани, документацію, тікети, описи PR і резюме зустрічей - усе згенероване. Його теза стосується втраченої функції документа, а не якості тексту. Типовий патерн, який він описує: спершу щось будують за допомогою AI, а потім тим самим AI ретроспективно перетворюють готове на «проєктний документ». Такий текст перестає бути пропозицією, яка збирає згоду, веде людей за собою і уточнює ідеї через повільне обдумування - він стає машинним підсумком у виснажливих деталях, без контексту і без позиції. Автори таких документів, додає він, дратуються, що ніхто не залучається - і це зрозуміло, бо зроблене вже працює.

Окремо про описи PR: вони «багаті на деталі» - це змінили на те, ці речі розділили, ті об'єднали, тести додали. І читач лишається з питаннями, на які опис не відповідає: а навіщо це робиться, у чому цінність, наскільки це ризиковано або терміново.

Важлива деталь, яка робить есей чесним: автор не проти AI в письмі і прямо каже, що AI допомагає йому писати краще і швидше. Заперечення адресоване одному конкретному використанню - публікації згенерованого тексту як власного продукту думки.

Чому це важливо. Тема доби тут склалась сама: у пункті 1 математики домовляються про правила подачі машинних результатів, тут інженери формулюють те саме на рівні робочого документа. Спільне питання - де межа між інструментом і підписом. Практичний висновок, який легко застосувати: у документа є функція, а не лише зміст, і якщо він писався, щоб зібрати згоду або змінити рішення, то згенерований підсумок цю функцію не виконує, яким би повним він не був. Перевірка проста: чи можна з цього тексту зрозуміти, Чому так вирішили і від чого відмовились.

тема 8Python на Cloudflare Workers вийшов у загальну доступність

Через два роки після появи Python Workers Cloudflare оголосила загальну доступність. Python тепер повноправна мова їхньої платформи: працюють нативні прив'язки до Workers AI, R2, D1, Hyperdrive, Durable Objects, Queues і Workflows, а всередині можна запускати FastAPI, Django і Flask. Раніше, щоб скористатись цими прив'язками, треба було руками конвертувати пітонівські об'єкти в TypeScript-ові на межі RPC - тобто дописувати службовий клей навколо кожного виклику.

Технічна основа - Pyodide, інтерпретатор Python, скомпільований у WebAssembly; Workers підтримують Wasm з 2018 року, і саме це зробило такий шлях можливим.

Чому це важливо. Основна маса бібліотек для роботи з даними і моделями живе в Python, а серверлес-платформи довго вимагали писати обв'язку іншою мовою. Зникнення шару ручної конвертації між мовами - саме те, що відрізняє «технічно можливо» від «беруть у продакшн».

Загальна доступність тут означає рівно одне перевірюване: постачальник бере на себе підтримку, і на це можна спиратись у планах.

тема 9Архів Сноудена: сім років жодного нового документа

Найгучніша сторі доби на HN - 684 бали - розбір, який просто складає дати докупи.

Останній документ з архіву Сноудена опублікували 29 травня 2019. Guardian припинив публікації у лютому 2014, Der Spiegel у січні 2015, NYT і ProPublica у серпні 2015. Далі документи публікував майже винятково The Intercept, поки не закрив свій архів у березні 2019; через одинадцять тижнів вийшла остання партія. З того часу жодне видання, журналіст чи інституція не опублікували жодного документа з архіву.

Текст розбирає і аргументи, якими це пояснювали: документи «постаріли», інші великі медіа теж припинили, бюджет, «редакційні пріоритети». Окремі розділи - що сталось із копією The Intercept і в кого архів лишається зараз.

Чому це важливо. Сюжет ширший за конкретний архів: матеріал, переданий журналістам, живий рівно доти, доки в когось є бюджет і намір з ним працювати. Архівування - не подія, а витрата, яку хтось мусить нести роками, і коли носій втрачає інтерес, доступ зникає без жодного рішення про засекречування. Це те саме питання, що з вагами моделей у вчорашньому випуску, тільки в іншій галузі: хто саме тримає копію і за чий рахунок.

тема 10OpenAI просить США очолити світові стандарти безпеки AI - скептицизм прийшов того ж дня

WSJ

OpenAI у понеділок публічно закликала США очолити міжнародну коаліцію для координації світових стандартів AI - напередодні Генеральної асамблеї ООН, де тема ризиків технології на порядку денному. Тему підтвердили три видання незалежно: Semafor, WSJ і FT.

Контекст, який Semafor дає в тому самому тексті, важливіший за сам заклик. По-перше, Вашингтон уже веде обережні перемовини з Пекіном, зокрема про можливу гарячу лінію для розведення інцидентів - і видання одразу згадує, що подібний механізм не спрацював під час кризи 2001 року. Цитата їхнього колумніста про Китай: пропозиція «мимоволі символічна для застою між країнами - обмежена за обсягом і амбіцією, тоді як обидві мають справу з величезною геополітичною і суспільною нестабільністю». По-друге, окремий матеріал того ж дня зібрав скептицизм аналітиків щодо того, чи Вашингтон і Пекін узагалі дійдуть згоди.

І по-третє, деталь, яка ламає просту картинку: президент США, який має власні інтереси в AI, неохоче займається внутрішніми стандартами безпеки і публічно ближчий до індустріальних оптимістів.

Вчора згадували окремий діалоговий трек США і Китаю щодо AI між міністерствами фінансів.

Сьогодні видно другий поверх тієї ж конструкції: тепер до столу просунулась сама компанія з проханням, щоб коаліцію очолила її держава.

Чому це важливо. Коли компанія просить державу написати правила для власної галузі, корисно розрізняти два мотиви, які виглядають однаково: зменшити ризик і закріпити позицію.

Стандарт, написаний під найбільших, стає бар'єром для менших - це стара механіка регуляторного захоплення, і вона не залежить від щирості заклику. Дивитись варто на те, хто сидить у робочих групах і які саме вимоги потрапили в текст, а не на риторику про відповідальність. Згадка про непрацюючу гарячу лінію 2001 року тут корисніша за будь-який прогноз: механізм, який не спрацював один раз під тиском, потребує доказів, а не обіцянок.

короткоРешта за добу