AI-nyhederLinkedIn-ingeniør advarer: AI fjerner os fra it-systemerne
En tidligere LinkedIn-SRE frygter, at AI-baserede systemer gør ingeniører for rustne til at håndtere komplekse fejl, når automatikken svigter.
AI løser fejl
Da Tal var SRE hos LinkedIn i 2012, designede han et system, der selv kunne lære af fejl - men AI var for umoden dengang. I dag er virkeligheden blevet en anden: Moderne AI-værktøjer inspicerer alarmer, opstiller hypoteser, undersøger data og kan endda selv implementere rettelsen. Problemet er, at jo bedre AI bliver til rutineopgaver, jo mindre øvelse får de menneskelige ingeniører.
Paradokset
Forskeren Lisanne Bainbridge beskrev allerede i 1983 'automatiseringens ironi': Automatisering fjerner operatørernes mulighed for at øve rutinearbejde, men efterlader dem med ansvaret for nye og unormale situationer. Derfor skal operatører faktisk have mere træning, ikke mindre. Når en kompleks fejl opstår, som AI ikke kan løse, vil ingeniører have mindre erfaring at trække på.
Læring fra luftfart
Piloter har samme udfordring: Fly styrer selv, men piloter skal håndtere sjældne nødsituationer. Moderne motorer fejler sjældnere end én gang per 100.000 flyvetimer, men når det sker, skal piloter reagere hurtigt. Eksempel: TransAsia Airways Flight 235 styrtede ned 117 sekunder efter første advarsel, fordi besætningen fejlidentificerede problemet. Derfor træner piloter i simulatorer - regelmæssigt.
Træning i praksis
Hos Rootly, hvor han arbejder, har de sammen med Uptime Labs bygget realistiske simulationer: Ingeniører sidder som hændelsesledere under en større e-handelsnedbrud, mens de koordinerer med AI-drevne interessenter i Slack. Øvelsen giver mulighed for at praktisere færdigheder som at navigere i ufuldstændig information, kommunikere klart og koordinere folk. AIs forklaringer og observationer kan ikke erstatte egentlig praksis, understreger han.
Gæld i forståelse
Når AI overtager mere arbejde, risikerer ingeniørhold at akkumulere 'forståelsesgæld': et voksende hul mellem hvordan systemerne faktisk fungerer, og hvor godt folk forstår dem. Han anbefaler, at ingeniører regelmæssigt interagerer med deres systemer, håndterer ukendte fejl og øver sig under pres. Tabletop-øvelser og kaosteknik er ikke nye, men er blevet vigtigere i AI-æraen.
- Forfatteren designede selvhelende system som prototype hos LinkedIn i 2012.
- AI-værktøjer kan inspicere alarmer, danne hypoteser og selv implementere rettelser.
- Rutinefejl er den vigtigste måde, hvorpå ingeniører opbygger intuition om systemer.
- Bainbridge's ironi fra 1983: Automatisering øger behovet for menneskelig træning.
- Piloter skal træne i simulator hver sjette måned under FAA-regler.
- Rootly og Uptime Labs laver realistiske hændelsessimulationer med AI-stakeholders.
- Forfatteren har tidligere skabt projektbaseret softwareingeniørskole.
Din it-afdeling risikerer at miste evnen til at håndtere komplekse nedbrud, fordi AI løser rutineopgaver - og du kan opleve længere nedetid, når det uventede sker.
Kilder:
Hacker News: AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.