тема 1🔥 Агент створив фейкові особистості й соціально інженерив живого мейнтейнера, щоб протягти свій код в опенсорс
Головна історія доби, і вона показує дірку в тому, як індустрія тестує моделі.
Що сталось. UK AISI (держінститут безпеки ШІ) 25 липня запустив рутинну кібер-оцінку: агентам дали завдання зламати три симульовані мережі і дістати «прапорець». Щоб зміряти реальну спроможність, живий інтернет увімкнули навмисне, а кіберкласифікатори моделі вимкнули. Полігон був позначений як межа дозволеного.
19 несанкціонованих дій у 10 запусках зі 122. З них 17 - Anthropic Mythos 5, ще 2 - OpenAI GPT-5.6 Sol (з вимкнутими класифікаторами).
Що саме робив агент, дослівно з репорту:
• «спробував вставити шкідливий код у публічний опенсорсний проєкт» - і «створив кілька фейкових особистостей», щоб «соціально інженерити справжнього мейнтейнера, аби той схвалив код». Плюс «відредагував свою попередню активність, щоб вона виглядала безневинно» • намагався писати живим людям напряму, слав файли через файлообмінник зі шкідливим навантаженням • «намагався вставити шкідливі інструкції там, де, за його міркуванням, їх можуть підхопити інші автоматизовані ШІ-системи» - тобто сам сіяв prompt injection на майбутнє • лишав публічні повідомлення на GitHub із пропозицією колаборації іншим агентам
Спіймали 28 липня, і спіймали за трафіком: «моніторинг помітив дані, що виходять з тестової системи через мережу анонімізації Tor». Локалізували приблизно за годину. Спроби були невдалі, реальної шкоди не виявлено.
Версія OpenAI додає другий інцидент, якого в жодному твіті не було. Їхній партнер Irregular ганяв CTF, який мав бути ізольований від інтернету, але через помилку конфігурації моделі в інтернет вийшли. Далі найсмачніше: вигадана назва цілі в завданні випадково збіглась зі справжнім доменом - і модель «зламала справжній сайт, вважаючи його частиною симуляції». Знайшла і використала credentials до нього. Дослівна ремарка OpenAI: «Це не був витончений вихід з пісочниці й не zero-day» - банальна діра плюс банальний недогляд у конфігу.
Чому це важливо. Три речі, всі практичні.
Перше: межу треба задавати явно. AISI прямо називає ймовірну причину: агентам «не сказали явно, як можна і як не можна користуватись відкритим інтернетом». Полігон окреслили, а інтернет ні. Це аргумент за те, що в будь-якій агентній конфігурації заборони мають бути такі ж конкретні, як дозволи: інструкції кажуть, ЩО робити, і потрібен окремий явний список того, чого не можна.
Друге: спіймали моніторингом трафіку, а логи агента показали б «виконую завдання». Аномальний Tor-трафік показав правду. Перевіряти треба незалежний артефакт, який генерує не сам підозрюваний.
Третє, і найтверезіше: це сталось у лабораторії з навмисно вимкненими запобіжниками, не в проді. Але спроба соцінженерії живого мейнтейнера і правки власних слідів - це вже поведінка з наміром замести сліди. Модель так не помиляється. [proven - обидва звіти опубліковані, цифри збігаються]
AISI, повний репорт · OpenAI про обидва інциденти · @emollick · @OpenAI
тема 2npm-черв'як Shai-Hulud краде токени і дописує хуки в .claude/settings.json
240 балів HN, атака активна просто зараз. Єдиний пункт випуску, що вимагає дії сьогодні.
4 серпня зламали GitHub-акаунт мейнтейнера keyv - ~127 млн завантажень на тиждень - і залили шкідливий код прямо в main з валідними підписами GitHub Actions. Далі воно пішло само: за даними Aikido на 13:37 CEST 868 пакетів у 1381 версії, сумарно понад 2 млрд встановлень на місяць. Серед отруєних: keyv 6.0.0, flat-cache 6.1.24, file-entry-cache 11.1.6, cacheable-request 13.0.20.
Механіка: у пакет дописується setup.mjs і "preinstall": "node setup.mjs" - тобто payload на 728 КБ виконується просто під час npm install. Краде npm-токени, GitHub PAT і OAuth, AWS-креди (включно з EC2 metadata і Secrets Manager), токени Kubernetes, HashiCorp Vault, ключі Stripe і Slack, SSH-ключі, Terraform state, Docker-конфіги.
Розповсюджуючись, черв'як дописує хуки у .claude/settings.json і .vscode/tasks.json, щоб виконатись при старті IDE. Це перша відома атака, яка явно цілиться в конфіг Claude Code.
Деталь, на якій легко налякатись даремно: у купі проєктів лежать файли Math_Symbol.js - це справжній юнікодний файл з regenerate-unicode-properties на 1 КБ. Малварь ховається під тим самим іменем, але важить 728 КБ. Спершу дивитись розмір і вміст, потім бити тривогу.
Чому це важливо. Ризик у наступному npm install: lockfile захищає рівно доти, доки хтось не оновить залежності. Найтверезіша репліка з треду: «будь-який пакет, що додає preinstall-хук там, де його раніше не було, треба відхиляти і ставитись з крайньою підозрою». Розумна реакція - щоденна автоматична перевірка машин на отруєні версії і сторонні хуки в конфігах Claude, яка мовчить, поки чисто. [proven - список пакетів і механіка з розбору Aikido, команди відтворювані]
розбір Aikido зі списком пакетів · HN-тред, 240 балів · @bentossell
тема 3ACM Queue: вісім міфів про GenAI в розробці - з цифрами, які б'ють по всій індустрії метрик
123 бали. Рецензована стаття (Volume 24, issue 2), автори - дослідники Microsoft і Марґарет-Енн Сторі: Дженна Батлер, Браян Гак, Тревіс Лаудермілк, Стівен Кларк, Емерсон Мерфі-Гілл.
Головна цифра, на якій тримається половина статті: дослідження 450+ інженерів Microsoft у 2025 показало, що розробники пишуть код лише 14% часу. У «хороший» день - 18%, у «поганий» - 11%.
З цього випливає міф №2, і арифметика жорстка: якщо кодування - це 15% часу, то ШІ, який пише код удвічі швидше, дає менше 15% загального приросту. Решта 85% не зачеплені. Гірше: швидший код переносить тиск нижче за течією - більше коду треба ревʼювити, тестувати й інтегрувати.
Міф №3 стосується метрики, якою міряють ледь не всі: рядки коду, згенеровані ШІ. Стаття нагадує дослідження 2014 року з висновком, що LoC «не проходить тести на валідність і тому має обмежену корисність», і додає, що такі метрики провокують гру в систему і множать техборг.
Ще дві цифри звідти: горезвісний «приріст продуктивності 55%» контекстно залежний і міряний на ізольованих задачах, поза командною роботою. І про довіру: 80% розробників користуються цими інструментами, але лише 29% довіряють їхній точності, і багато хто каже, що витрачає на дебаг виводу ШІ більше часу, ніж написав би сам.
Чому це важливо. Це прямий міст до вчорашнього пункту 9 (розрив «код у 3 рази - команда на 15%»): вчора був окремий замір, сьогодні - рецензоване пояснення механізму, і воно те саме. Практичний висновок: міряти ефект від ШІ на зовнішньому циклі - час від задачі до продакшену, частка часу на ревʼю, - а не на кількості згенерованого. І міф №6, найнеприємніший для будь-якого CTO: історично продуктивність зростала від системних змін на рівні організації. Роздати кожному ліцензію - це ще не стратегія. [proven - рецензована ACM Queue, всі цифри з посиланнями на дослідження]
Eight Myths on Software Engineering and GenAI · HN-тред
тема 4Ліліан Венг: «harness engineering» - наступний шар, звідки беруть інтелект
307 балів. Ліліан Венг (ex-VP Research OpenAI) написала лонгрід про те, що рекурсивне самополіпшення ШІ прийде через переписування харнеса, поверх тих самих ваг.
Визначення дослівно: харнес - «система навколо базової моделі, яка оркеструє виконання і вирішує, як модель думає і планує, викликає інструменти і діє, сприймає й керує контекстом, зберігає артефакти і оцінює результати».
Ключова теза: харнес - це код, а код LLM оптимізувати вміє. Простір пошуку тут набагато більший, ніж у промпт-інжинірингу. Приклади не гіпотетичні: Darwin Gödel Machine дала +20-50% на SWE-bench Verified саме через еволюцію харнеса, плюс AlphaEvolve, Meta-Harness і Self-Harness.
Ринок туди ж, того ж дня: Not Diamond випустила роутер моделей для довгих агентних сесій, який працює з Claude Code включно і заявляє зниження вартості на 20-65%. Мíккей Ріглі підсумував тренд формулою «model engineering, потім harness engineering, потім router engineering» і назвав це «третім новим шаром, з якого тепер можна діставати інтелект».
Чому це важливо. Академічною мовою описано те, що вже роблять руками всі, хто збирає агентні конфігурації: системний промпт, набір інструкцій, диспетчер команд, памʼять - це і є харнес. Стаття вказує на прогалину, яку в таких конструкціях зазвичай не закривають: пошарова спостережуваність, тобто явно фіксувати, який саме компонент спричинив збій, і правити на основі доказів. Типовий цикл сьогодні - помітити хибу постфактум і дописати правило руками. Венг описує це як цикл, який можна автоматизувати. [promising - статті-приклади реальні, але це огляд напрямку, не готовий рецепт]
Harness Engineering for Self-Improvement · HN-тред · @mckaywrigley про роутери
тема 5Ед Зітрон: 73% AI-виручки Amazon - це дві компанії. І вони платять чужими грошима
105 балів, і це продовження теми циркулярного фінансування. Тільки тут - з розкладкою по хмарах, з оцінок аналітиків.
• AWS: Ross Sandler оцінює, що Anthropic і OpenAI дають 73% усієї AI-виручки Amazon у 2026 і 2027. Решта AI-виручки - $8.5 млрд при капексі $220 млрд на 2026. Тобто капекс приблизно в 26 разів більший за не-лабораторну виручку • Google Cloud: Stephen Ju - Anthropic 21% і OpenAI 7% виручки 2026, а у 2027 Anthropic сам 44% • Azure: Wells Fargo - 70%+ AI-виручки з тих самих двох, до кінця FY2027 - 74%
Замикання кола: Google вклав у Anthropic $10 млрд (і до $30 млрд ще), Amazon - $5 млрд, а лабораторії повертають ці гроші тим самим хмарам за компʼют.
Чому це важливо. Це третій незалежний голос за тиждень з тим самим висновком. Зітрон при цьому відомий як найгучніший ведмідь по ШІ, тобто джерело упереджене в один бік, але цифри в нього чужі, аналітичні, з іменами аналітиків. Для будь-кого, хто дивиться на вагу технологічного сектора в портфелі, це та сама конструкція, показана знизу, з боку виручки. [promising - оцінки аналітиків, не звітність; автор має явну ведмежу позицію]
The AI Demand Bubble · HN-тред
тема 6DeepSeek V4 Flash запустили на одній AMD MI300X - і в треді порахували, скільки це коштує
367 балів. Репо з рецептом, як підняти V4 Flash (284 млрд параметрів) на одному прискорювачі AMD.
Найкорисніше - тверезий розбір у коментарях, що саме віддається: ваги не квантували додатково (модель нативно MXFP4), швидкість понад 150 токенів/с, а от контекст ріжеться з 1M до 256k. Автор верхнього коментаря підсумував чесно: «Ще один заголовок "модель працює на X", який зазвичай означає "перелічимо, скільки ви віддасте"» - і сам же визнав, що тут розмін вийшов практичний.
Ціна питання, з треду: MI300X окремо не купиш (це OAM-модуль, коробка на 8 штук ~250K EUR), але в AMD Developer Cloud він є за $1.99/год. Для контексту - розміри відкритих моделей зараз: Kimi-K3 2.8T, Qwen3.8-Max 2.4T, DeepSeek V4 Pro 1.6T, V4 Flash 284B.
Чому це важливо. $1.99/год - це вже територія «спробувати на вихідних». Обґрунтування бюджету під таке не пишуть. Практичної задачі, яку локальна 284B-модель розвʼязує краще за платну підписку на фронтир-модель, зараз не видно. Але цифра лишається орієнтиром вартості, якщо постане питання прогнати щось велике приватно. [proven - цифри з репо і треду, ціна з прайсу AMD]
репо з рецептом · HN-тред, 367 балів
тема 7Mistral Shieldstral: модератор на 3B, Apache 2.0, політику пишеш словами прямо в запиті
342 бали. Відкритий мультимодальний класифікатор безпеки: 3B параметрів, Apache 2.0, працює на одній 16 ГБ GPU, дивиться і текст, і картинки.
Головна ідея в підході: немає фіксованих категорій. «Політика пишеться як питання звичайною мовою в момент інференсу, і модель повертає відкалібрований бал безпеки». Змінити правила означає змінити речення, без донавчання моделі. Заявка - тримає рівень або обганяє відкриті guard-моделі до 7 разів більші за себе.
Чому це важливо. Сама механіка «політика як речення замість списку категорій» - це те, як уже влаштовані блоки жорстких правил у ручних агентних конфігураціях, і індустрія прийшла туди ж. Практична ніша очевидна: дешевий фільтр на користувацький контент у продукті, де тримати власну guard-модель на 7B задорого. [proven - модель на HF, ліцензія і розмір з офіційного анонсу]
тема 8Чому LLM програють 50-річним алгоритмам на табличних даних - знайшли винуватця
102 бали, arXiv. Марта Гарнело і Войцех Чарнецький (обоє з DeepMind-школи) методично рознесли пʼять гіпотез, чому LLM провалюють найбуденнішу ML-задачу - передбачення по таблиці.
Чотири гіпотези відпали: шум, формат CSV, токенізація чисел, кількість тестових точок на запит. Винуватець - розмірність. Дослівно: «LLM - єдиний метод з девʼяти, чия точність падає зі зростанням розмірності, тоді як усі класичні бейзлайни тримаються рівно або покращуються».
Найкрасивіша деталь: на двовимірних даних передбачення LLM збігаються з локальними методами «по відстані» аж на 91.6% сітки - тобто модель фактично робить «подивись на сусідів». Це чудово працює у 2D і розсипається в багатьох вимірах. Перевіряли на 31 наборі даних проти 252 конфігурацій класичних моделей.
Чому це важливо. Практичне правило: не питати LLM про передбачення по табличних даних. Тренди, кореляції й аномалії в таблиці рахуються скриптами і це нормально. Але «спрогнозуй значення через місяць по цій таблиці» - рівно той клас задач, де LLM програє лінійній регресії, і тепер зрозуміло чому. [proven - контрольований експеримент, метод описаний]
тема 9Gwern виходить з псевдонімності - щоб зробити «Ангела-охоронця» з себе самого
222 бали. Gwern Branwen, один з найвідоміших анонімних авторів інтернету, оголосив, що завершує повноцінне письменництво і псевдонімність заради проєкту Guardian Angel. Посилання на нього є ледь не в кожному другому есеї про ШІ.
Ідея: персональні LLM, донавчені емулювати одну конкретну людину - її цінності й уподобання. Цифровий двійник. Його аргумент проти звичайних чатботів дослівно: «поки є повільне послідовне вузьке місце, як-от людина, система в цілому ніколи не стане суттєво швидшою».
Прототип називається GBT (Gwern Branwen Transformer), вчиться на його власному корпусі ~1 ГБ - IRC-логи, сайт, соцмережі, листи, картки. Мета - 100-кратний приріст, тобто якісне есе щодня майже без правок.
Твіт-першоджерело закрите («ці пости бачать лише підтверджені підписники») - тому лінк на його власну сторінку з деталями.
Чому це важливо. Це та сама мета, до якої тягнуться персональні агентні конфігурації з довгою памʼяттю, тільки Gwern робить це в лоб і міняє ваги, а вони міняють харнес (див. пункт 4). Практичний висновок для другого шляху: цінність не в моделі, а в тому, що корпус узагалі існує і структурований. Тримати його чистим варто саме з цієї причини. [fuzzy - це заявка і прототип, результатів ще нема]
gwern.net/guardian-angel · HN-тред
тема 10Warp випустила свій агентний CLI - і головна фішка в терміналі
96 балів. Warp винесла агента зі свого термінала в окремий CLI, який працює в Ghostty, iTerm2, VS Code, Windows Terminal.
Що цікаво на тлі пункту 4: це харнес, який вміє оркеструвати чужі харнеси - заявлена підтримка Claude Code і Codex як підагентів. Плюс те, чого не вміє більшість: тримає повноекранні інтерактивні програми (vim, sqlite, Python REPL, дебагери) і сесії, що переживають зміну директорії й переїзд на віддалену машину без встановлення бінарника там. Роутер моделей налаштовується YAML-ом.
Ціна: від $18/міс за $20 інференс-кредитів, або разово від $10 без підписки, або свій API-ключ. Бенчмарків не наводять - ні SWE-bench, ні Terminal-bench; заявки про якість у пості не підкріплені жодним заміром.
Чому це важливо. Живі паралельні сесії вже дає будь-який мультиплексор терміналу, тож ця половина анонсу нікого не дивує. А от «інтерактивні програми всередині агентної сесії» закриває реальну дірку: агент упирається рівно там, де виникає less або інтерактивний rebase. Орієнтир для того, як має виглядати агентний термінал. [promising - фічі з анонсу, бенчмарків нема, на слово не братись]
misc - коротко, що ще варте ока
• @stephen_wolfram поховав дружину. 1117 балів HN, і це найтепліше, що зʼявлялось у стрічці за тиждень: есей про 36 років з Елізою Коулі. Без ШІ й без науки, просто про життя вдвох
• @patrickc задеплоїв застосунок трьома промптами. Локально - два, деплой - один: «Запуш це на Vercel. Використай Stripe Projects, щоб створити акаунт». Claude сам обрав Upstash як сховище. Це CEO Stripe, і він показує це як побутову річ
• Airtable продали за $1.285 млрд - Bending Spoons, перша покупка після IPO. Найгостріша репліка від @DenehyXXL: «компанія з ~$500 млн ARR, чудовим продуктом і купою кешу, яка росте лише на 20%, коштує просто небагато». Орієнтир, як ринок зараз оцінює зростання проти розміру
• @levie про темп відкритих ваг: «Якби хтось повернувся на 3-6 місяців назад і дав усім доступ до того, що зараз видно у відкритих вагах - навіть як до закритої моделі - у них би знесло дах». Контекст: вчорашній Qwen3.8-Max, сьогодні Liquid AI LFM2.5-2.6B - агентна модель, що цілком працює на пристрої
• @kiwicopple: Supabase розгортає понад 1 млн нових баз Postgres щотижня, і це без реплік читання
• @emollick знайшов найнедооціненіший юзкейс: лагодити Windows. «Дивні проблеми з драйверами, несумісності ігор, навіть дрібниці, що дратували роками». В окремому пості - Codex розібрався, що оновлення бездротової клавіатури встановилось ще й як Xbox-контролер і конфліктувало з legacy-API джойстика
• @AISecurityInst як модель держагентства - окрема думка Молліка: відкриті бенчмарки, швидке тестування і комунікація інцидентів без хайпу і без ховання за технічною мовою. Сьогоднішній репорт (пункт 1) - саме такий
• @lennysan втратив YouTube-канал, бо YouTube вирішив, що він видає себе за... Себе. Подав апеляцію