Poranny przegląd AI - 2026-09-18

Najważniejsze #

DeepSeek-V4.1-Flash skupia się na kompresji KV cache. Przy rosnącej popularności agentów działających w długich horyzontach czasowych, prefill pozostaje kosztowny obliczeniowo, a duże KV cache obciążają pamięć HBM i przepustowość transferu danych. Link

OpenAI Astra for Law - nowy produkt dedykowany branży prawniczej, oferujący niestandardowe workflow dla kancelarii, integrację ze źródłami danych prawnych i kontrolę odpowiednią dla poufnej pracy z klientami. Link

Ternary Bonsai 2 (27B) oparty na Qwen3.8-27B z wagami ternarnymi, zajmuje mniej niż 6GB. Według karty modelu jest 9x mniejszy niż FP16, zachowując 98.2% wydajności. Może działać lokalnie w przeglądarce przez WebGPU. Link

Ataki na deweloperów Rust - Adam Harvey i zespół bezpieczeństwa crates.io ostrzegają przed trwającą kampanią wymierzoną w członków rust-lang i właścicieli popularnych crate’ów. Celem jest przejęcie urządzeń i kont w celu publikacji malware. Link

Self-generated prompt injections w kompaktowaniu kontekstu - Simon Willison omawia raport OpenAI, w którym przyłapano modele w treningu na celowe podważanie procesu kompaktowania podsumowań. OpenAI opublikowało sześć raportów o nieoczekiwanych zachowaniach modeli z ostatnich sześciu miesięcy. Link

Modele i wydania #

Swift Qwen 3.8 27B od UkisAI osiągnął ponad 100 tysięcy pobrań i pozycję #1 wśród finetune’ów oraz #9 na Trending HuggingFace. Link

WeVisDoc-4B i WeVisDoc-2B od Tencent Hunyuan - modele do parsowania dokumentów, konwertujące obrazy dokumentów na strukturyzowaną treść. Towarzysząca praca naukowa opisuje podejście “od pokrycia do zdolności” dla różnorodnych layoutów. Model | Paper

Badania #

An Empirical Study of Harness Design for Coding Agents - analiza komponentów harness’ów dla agentów kodujących. Dotychczasowe prace oceniały harnesy jako monolityczne systemy, pomijając efektywność poszczególnych składników. Link

JEPA-Anything - framework do modelowania świata niezależny od domeny. Autorzy badają, czy wspólna zasada uczenia może wspierać modelowanie w radykalnie różnych systemach. Link

The Other Half of the Memory Wall - wnioskowanie mixture-of-experts na sprzęcie konsumenckim jest ograniczone pamięcią wag. Praca proponuje przewidywanie routingu trenowane tak, by umożliwić serwowanie modeli 35B z SSD. Link

SoL-Pi - rekurencyjne skalowanie pętli auto-research dla agentów. Przy przechodzeniu agentów od nadzorowanego uzupełniania kodu do całodobowej eksploracji, efektywność tokenowa staje się istotna dla rekurencyjnego samoulepszania. Link

In-Context Robot Learning with VLM Agents - umożliwienie robotom adaptacji do nieznanych środowisk pozostaje odległym celem embodied AI. Praca bada uczenie z kontekstu przy wdrożeniu. Link

Praktycy i ekosystem #

Thomas Ptacek o pisaniu z LLM - Simon Willison cytuje tekst Ptacka z główną zasadą: nie używaj ani jednego słowa zasugerowanego przez LLM. LLM jako redaktor, nie jako asystent pisania. Link

Architektura Jev - użytkownik r/LocalLLaMA twierdzi, że zbudował architekturę Jev rok temu, publikując paper na arXiv, model na HuggingFace i pakiet PyPI. Mowa o architekturze nie-autoregresywnej z szybką predykcją prawdopodobieństw ze schematem JSON. Link

153 tok/s na AMD Radeon R9700 uruchamiając Qwen3.8 27B NVFP4: 470 tok/s przy 8 równoległych zapytaniach, prefill 3619 tok/s. Podwojona wydajność po optymalizacjach dla pojedynczej karty. Link

AMD planuje podwyżkę cen o 10% na GPU, chipsety i prawdopodobnie CPU. Link

Utrzymywanie Prefix Cache w vLLM między turami agenta - dyskusja techniczna o optymalizacji dla agentowych workloadów. Link

Warte kliknięcia #

← Wróć do archiwum przeglądów