Augusztus közepén a Dynatrace bejelentette, hogy mintegy 915 millió dollárért felvásárolja az Arize AI-t, az egyik legismertebb AI- és LLM-observability platformot. Elsőre ez akár egy újabb technológiai akvizíciónak is tűnhet, valójában azonban jól mutatja, milyen gyorsan változik az AI-rendszerek üzemeltetésének világa.
Ahogy egyre több vállalat használ AI-modelleket és agenteket éles üzleti folyamatokban, már nem elég azt látni, hogy az infrastruktúra és az alkalmazás technikailag megfelelően működik. Ugyanilyen fontos kérdés, hogy a modellek milyen válaszokat és döntéseket adnak, mennyire megbízhatóak, és hogyan hatnak az üzleti eredményekre.
Nézzük meg, mit jelent a Dynatrace és az Arize üzlete, miért éppen most vált fontossá ez a terület, és mire érdemes figyelniük azoknak a vállalatoknak, amelyek már ma is AI-alapú rendszereket működtetnek.
Mi történt pontosan?
A 2020-ban alapított Arize két, egymást kiegészítő megoldást épített fel. Az Arize AX egy vállalati AI-observability platform, míg a Phoenix ennek nyílt forráskódú, saját környezetben is futtatható párja. A vállalat az OpenInference szabvány kialakításában is fontos szerepet vállalt. Ez az OpenTelemetryre épülő konvenciórendszer abban segít, hogy az AI-modellek és AI-agentek működését egységes módon lehessen naplózni és nyomon követni.
A Dynatrace az Arize technológiáját és szakértői csapatát a saját platformjába integrálja. A cél nem egyszerűen egy különálló AI-modul hozzáadása, hanem az, hogy az AI-rendszerek működése a modell teljesítményétől a döntési folyamatokon keresztül az üzleti hatásig ugyanabban a környezetben legyen vizsgálható, ahol az infrastruktúra, az alkalmazások és a felhasználói élmény adatai is elérhetők.
Miért vált most ennyire fontossá az AI-observability?
A hagyományos monitoring elsősorban arra keresi a választ, hogy egy rendszer elérhető-e, megfelelően használja-e az erőforrásokat, és történt-e technikai hiba. Egy AI-megoldásnál azonban ez önmagában már nem elegendő. A modell technikailag hibátlanul működhet, miközben a válasza, ajánlása vagy az általa végrehajtott lépés üzletileg pontatlan, félrevezető vagy akár kockázatos.
Ezért az AI-rendszerek megfigyelésénél új szempontok is előtérbe kerülnek:
- Modellteljesítmény és drift: hogyan változik a modell pontossága az idő múlásával, és mikor kezd eltávolodni a valós adatoktól.
- Kimeneti minőség és értékelés: mennyire helyes, releváns és biztonságos egy adott válasz vagy döntés.
- Nyomon követhetőség: egy agentes folyamatnál melyik lépés, prompt vagy adat vezetett az adott eredményhez.
- Költség és válaszidő: mennyibe kerül és mennyi időt vesz igénybe egy-egy modellhívás, különösen nagy volumenű használat mellett.
Ezekre a kérdésekre a klasszikus infrastruktúra-monitoring önmagában nem ad választ. Nem véletlen, hogy az AI-observability az elmúlt években külön területté nőtte ki magát, amelynek az Arize is meghatározó szereplője lett.
Mit jelent mindez a vállalatok számára?
Amikor egy nagy, általános observability-szolgáltató felvásárol egy specializált AI-monitoring céget, az egyértelmű piaci irányt jelez. A hangsúly fokozatosan eltolódik a külön AI-eszközöktől az egységes, minden technológiai réteget lefedő platformok felé.
Azoknak a vállalatoknak, amelyek most alakítják ki AI-rendszereik megfigyelési stratégiáját, érdemes az alábbi szempontokat mérlegelniük:
- Egy kizárólag AI-monitoringra épülő megoldás hosszú távon könnyen elszigetelődhet a többi üzemeltetési rendszertől.
- Érdemes olyan platformban gondolkodni, amely közös, korrelált nézetben mutatja meg az infrastruktúra, az alkalmazások és az AI-modellek működését. Így egy probléma esetén nem több különálló eszközben kell keresni az összefüggéseket.
- Az AI-observability várhatóan rövid időn belül ugyanúgy alapelvárássá válik, mint ma az alkalmazás- vagy infrastruktúra-monitoring.
Az AI-observability hamarosan alapkövetelmény lesz
A Dynatrace Arize-felvásárlása önmagában természetesen nem oldja meg a vállalatok AI-üzemeltetési kihívásait. Jól mutatja azonban, hogy az AI-rendszerek megfigyelése már nem egy speciális kiegészítő, hanem egyre inkább az átfogó observability-stratégia természetes része.
Azok a vállalatok, amelyek időben egységes megfigyelést alakítanak ki AI-megoldásaik köré, gyorsabban tárhatják fel a hibákat, jobban átláthatják a modellek működését, és csökkenthetik annak kockázatát, hogy egy rendszer észrevétlenül kezdjen pontatlan vagy üzletileg káros döntéseket hozni.
Ha szeretné felmérni, hogy jelenlegi monitoringkörnyezete mennyire alkalmas az AI-rendszerek egységes megfigyelésére, vegye fel velünk a kapcsolatot!
Források
Dynatrace Investor Relations – sajtóközlemények: https://ir.dynatrace.com/news-events/press-releases
Dynatrace News Coverage: https://www.dynatrace.com/news/news-coverage/
OpenTelemetry – Semantic Conventions for Generative AI Agent Operations: https://opentelemetry.io/docs/specs/semconv/gen-ai/gen-ai-agent-spans/
