Wnioski z raportu "State of AI Engineering 2026"
od firmy Datadog
Datadog niedawno udostępnił raport „State of AI Engineering 2026”, z którego płynie kilka wniosków na temat tego, jak organizacje wdrażają AI w produkcji. Wnioski, które też sam obserwuję.
Badanie zostało przeprowadzone na podstawie danych użytkowych zebranych od tysięcy firm będących klientami platformy Datadog.
🔷 Ponad 70% organizacji korzysta dziś z co najmniej 3 różnych modeli, budując portfolio pod kątem kosztów, jakości i opóźnień. OpenAI wciąż utrzymuje pozycję lidera (63% udziału), ale adopcja konkurencyjnych rozwiązań, takich jak Anthropic i Google Gemini, znacznie przyspiesza (wzrost o odpowiednio 23 i 20 punktów procentowych).
🔷 Zespoły inżynierskie wdrażają nowo wydane modele, ale są znacznie wolniejsze w wycofywaniu starych, które wciąż działają na produkcji. Mimo że w maju 2026 r. na rynku są już modele takie jak GPT-5.5 czy Claude Opus 4.7, starsze wersje (np. GPT-4o) nadal utrzymują około 20-22% udziału.
🔷 Instrukcje systemowe i polityki bezpieczeństwa stanowią aż 69% wszystkich tokenów wejściowych przesyłanych do modeli. Mimo to, mniej niż jedna trzecia (zaledwie 28% ❗️) zapytań LLM wykorzystuje mechanizm “prompt caching”, co oznacza, że ogromna większość zapytań niepotrzebnie przetwarza cały kontekst od nowa.
🔷 Niemal 30% wszystkich błędów wywołań LLM to błędy przekroczenia limitów zapytań (rate limits). Rozwiązaniem tego problemu staje się zaawansowana inżynieria pojemnościowa (capacity engineering) oraz wdrażanie systemów kolejkowania i budżetowania.
🔷 Pomimo szumu wokół systemów wieloagentowych, aż 59% aplikacji agentowych wykonuje tylko jedno wywołanie modelu.
🔷 W ciągu ostatniego roku adopcja narzędzi takich jak LangChain, Pydantic AI czy Vercel AI SDK niemal się podwoiła, sięgając 17,5% badanych organizacji.
Raport pokazuje, że tempo adopcji AI jest solidne, ale jednocześnie że pracy w najbliższym czasie nie zabraknie. Problemy w stylu: “Jak sprawnie przejść ze starszego modelu na nowy, bez impaktu na istniejący proces biznesowy” czy “Jak zachować ciągłość obsługi klienta przy ograniczonych zasobach infrastrukturalnych modeli językowych” nadal są przed nami do rozwiązania.
A jak to wygląda w Twoich projektach?