AI-nyhederLinkedIn-ingeniør: AI overtager, og vi mister grebet
Automatiske systemer løser flere driftsfejl, men menneskelige ingeniører får mindre rutine og kan fejle ved alvorlige problemer.
Paradokset
Da han arbejdede som SRE hos LinkedIn, byggede han et system, der kunne lære af fejl. I dag er AI-værktøjer blevet så gode, at de selv inspicerer alarmer, tester hypoteser og implementerer rettelser. Problemet er ifølge ingeniøren, at rutineopgaver er den måde, hvorpå folk trygt opbygger forståelse for deres systemer – og den rutine forsvinder nu.
Lær af luftfarten
Forskeren Lisanne Bainbridge slog i 1983 fast, at automatisering skaber et paradoks: jo bedre den virker, jo mindre forberedt er mennesket på sjældne fejl. I luftfarten håndterer piloter sjældne nødsituationer, og regler kræver træning hvert halve år. For ingeniører kan uvidenhed betyde, at komplekse hændelser tager markant længere tid at løse.
Træning i simulator
Hos virksomheden Rootly har de udviklet en realistisk simulator, hvor ingeniører øver sig i at håndtere en e-handelsnedbrud. AI-genererede interessenter deltager, og man lærer at koordinere under pres. Men at se en AI forklare sine skridt er ikke nok – man lærer kun ved selv at gøre det, understreger han.
Hvad nu?
Ingeniøren advarer om, at teams kan ophobe det, han kalder forståelsesgæld. Med AI, der klarer mere, vokser kløften mellem systemets virkemåde og ingeniørernes viden. Hans råd er at bruge bordsimulationer og kaosteknik regelmæssigt, så færdighederne ikke forfalder, når automatiseringen overtager mere.
- AI-værktøjer kan selv inspicere alarmer, danne hypoteser og rette fejl.
- Forskeren Lisanne Bainbridge beskrev automatiseringens paradoks i et papir fra 1983.
- Moderne turbinefly oplever færre end én nedlukning per 100.000 flyvetimer.
- Piloter skal gennemgå træning eller prøver hver sjette måned ifølge FAA-regler.
- Rootly og Uptime Labs har udviklet en simulator til e-commerce-nedbrud.
- Ingeniøren mener, at rutineopgaver er nødvendige for at forstå systemet.
- Han forudser, at komplekse hændelser tager længere tid at løse efterhånden.
Du kan risikere, at it-systemer bliver langsommere til at rette alvorlige fejl, fordi ingeniører mister rutine, når AI klarer de lette opgaver.
Kilder:
Hacker News: AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.