I løpet av noen måneder har to splitter nye fly, Boeing 737-Max styrtet, med til sammen over 300 menneskeliv tapt.
Dette er et symptom på en uheldig, grensende til det useriøse, utvikling av flyteknologien. Som nær all annen teknologi utvikles den med nær svimlende fart. Kommersielle passasjerfly som det konsentreres om i denne artikkelen er ingen unntagelse. De større, det vil si vanlige, passasjerflyene produseres i all hovedsak fra duo-polet Boeing og Airbus.
Selskapene følger hverandres utvikling nært, men når det gjelder en sentral del av teknologien i flyene; Automatiserings-grad – skiller de lag.
Airbus har den overbevisning at ved kritiske situasjoner «vet» flyet best,det vil si. de flyteknologiske komponentene overstyrer pilotenes forsøk på fly-manøvrering.
Les også: Trump: – Boeing bør finne på et nytt navn
Boeing har, i alle fall til nå, valgt den motsatte vei; I en kritisk situasjon kan pilotene manøvrere flyet ut over de definerte grensene. Det ser ut som om Airbus ikke har hørt om Murphys lov – som går ut på at alt som kan gå galt vil gå galt. Så langt fra å være litt komisk er dette dypt tragisk – det har til nå krevd flere hundrede menneskeliv i flyulykker.
Automatisering i moderne passasjerfly kan betegnes som en «dialekt» av den dominerende trenden innenfor IT; kunstig intelligens eller AI. Det vil føre for langt å gå inn i en nøye beskrivelse av hvorfor AI generelt har store betenkeligheter ved seg, her skal det legges vekt på å presentere viktige områder i stikkords form relatert til et flys elektroniske logikk:
Det er ikke mulig i det virkelige liv å inkludere alle situasjoner som kan oppstå, det være seg flyets sensorer, dets øvrige komponenter, eller enhver ekstern ikke forutsett hendelse som et fly kan bli utsatt for.
Det har vist seg i praksis at flyvere har en tendens, og den er økende, til å stole ukritisk på flyets elektronikk – hvilket har medført flere tragiske ulykker.
Flyvere har i kritiske situasjoner vist seg ikke å kunne fly!
Et nytt moment har vist seg i og med ulykkene med Boeing 737-MAX, utilfredsstillende uttesting av nye funksjoner, unnlatelse av både relevant dokumentasjon og å sikre at pilotene er blitt skikkelig opplært.
AI realiseres, det vil si eksekveres ved en eller flere applikasjoner, for å fungere korrekt (det vil si etter forutsetningene) er de avhengig av korrekt informasjon (data i sin semantiske sammenheng) fra sensorer, og ikke minst at de fungerer som de er «tenkt», det vil si forutsatt. Alle AI-applikasjoner er utformet (programmert) av mennesker, optimistiske utsagn om at AI-systemene er lærenemme og til og med kan utvikle seg selv (da med ny maskinkode) må tas med en «stor klype salt» – det er store begrensninger, og i fly-sammenheng er dette i beste fall optimistisk presentert.
Det skal her presenteres noen hendelser og flyulykker som har som årsak feil i flyenes elektroniske systemer.
Qantas Flight 72, en Airbus A330, fra Singapore til Perth i Australia oktober 2008. Plutselig, i marsh-høyde, gjorde flyet et stup, såkalt nedover-manøver (pitch-down). Det viset seg senere at en av de tre datamaskinene som leverer instruksjoner til flyets sentrale datamaskin plutselig begynte å forveksle høyde med flyets angrepsvinkel (AOA).
Flyverne koblet ut autopiloten, men flyet «visste best» og sendte flyet i bratt stup flere ganger. Til alt hell var flykapteinen gammel kampflyver med lang erfaring i å manøvrere et skadet fly, det var hans spesielle kompetanse alene som gjorde at det ikke endte i katastrofe. Som om ikke dette var nok – Airbus forsøkte å dysse ned den virkelige årsaken til neste-ulykken, verre er det at Europeiske og franske luftfartsmyndigheter vare tause. Det burde være en selvfølgelighet å ha et overvåkningssystem (tracing) som kontinuerlig overvåker meningsfullheten (semantikken) av signaler, både fra datamaskiner og særlig sensorene rundt om i flyet.
Les også: Piloter meldte om problemer med to amerikanske 737 MAX 8-fly
Neste eksempel, også det en Airbus A330, endte med katastrofe – Air France AF-447 fra Brasil til Frankrike i juni 2009. Som vanlig er hadde flyet flere fartsmålere; Pitot Tubes, til noen tusen kroner, det var kjent hos Airbus at disse kunne lett ise og vise feil hastighet – men det ble ignorert – også av luftfartsmyndighetene. En av disse iset ned og ga helt feil temperaturmåling, med den følge at autopiloten slo seg av – og pilotene måtte faktisk fly selv. I stedet for å senke nesen og gi gass løftet de nesen enda mer – flyet stallet (mistet løftet) og brukte fire minutter på å stupe i havet.
Eksempel på Pitot Tube
Boeing er ikke bedre stilt. Et nesten helt nytt fly, en Boeing 777, styrtet under innflyging ved San Francisco flyplass 6 juli 2013, det var et helt moderne fly og godt vær. Alle spurte seg omgående – hvordan kunne dette skje. Undersøkelsene vist at ingen av pilotene oppmerksomme i den fasen som kanskje er den farligste delen av en flytur; landingen.
Situasjonen i cockpit var fullstendig kaotisk, uten noen form for kommandostruktur, troen på flyets automatiske systemer var fullstendig. Undersøkelsene viste imidlertid at autopiloten ikke nødvendigvis greier å holde konstant hastighet, foruten at den har i alt fem forskjellige tilstander (modes), og ikke er helt i stand til alltid å kommunisere med autogass-systemet (autotrottle). Flere mennesker mistet livet, også her kunne man observere at fabrikanten, Boeing, ikke innrømmet noen skyld.
Les også: Piloter mener Boeing ikke informerte godt nok før styrten i Indonesia
Det er imidlertid de to ulykkene med det helt nye Boeing 737 Max som nå får all oppmerksomhet; Lion Air flight LA610-krasjet 29.10.2018 og Ethiopian Airlines Flight ET302 10.03 i år.
Bakgrunnen for ulykkene kan kort forklares med at denne nye utgaven av B737 har større motorer som er plassert lenger frem i flyet enn den ordinære 737, med blant annet den følge at motorkappene gir løft som kan medføre at nesen presses oppover (AOA – flyets vinkel) uten at pilotene er oppmerksomme, flyets løfteevne kan da forsvinne (stall) og det vil falle som en stein, flyets nese må da tvinges nedover.
Hjertet i denne pilot-«hjelpen» er systemet Maneuvering Characteristics Augmentation System (MCAS), som i all korthet skal at 737 Max skal oppføre seg som tidligere utgaver av B737. Det er altfor godt kjent hvordan dette tillegget fungerte – nesen på begge flyene pekte bratt nedover uansett pilotenes anstrengelser – de krasjet begge i full hastighet. Historien bak er mindre kjent, og den er til overmål rystende!
De viktigste momentene beskrives her.
Det første punktet er at det er to AOA-sensorer, en på hver vinge. Boeing fant i sin «visdom» ut at bare den enes målinger skal benyttes, annenhver gang – det vil si «ett-punkts» måling. For enhver som har strevd med komplisert elektronikk fremstår dette som fullstendig meningsløst!
Bedre blir det ikke at fabrikanten betraktet dette som en så liten sak at det ikke ble opplyst i flyets håndbøker. Etter den første ulykken har da også Boeing funnet ut at MCAS skal beskrives, foruten at begges målinger skal avleses med logikk for sammenligning av måleverdiene.
Det er aktiviteten rundt uttestingen og godkjennelsen av MCAS som er mest oppsiktsvekkende. FAA, (Federal Aviation Administration) USA’s luftfartstilsyn har som oppgave blant annet å verifisere og godkjenne denne type utvidelser. I en oppsiktsvekkende forklaring til USA’s Senat kunne sjefen for FAA fortelle at sertifiseringsprosessen ble overlatt til Boeing under den antagelse at selskapet hadde kompetanse til å utføre den.
Dette gir en ny dimensjon til uttrykket «bukken-og-havresekken», og hadde blitt akseptert hadde det ikke vært for at dette har kostet over 300 mennesker livet.
Etter Lion Air 610-ulykken offentliggjorde Boeing detaljerte regler for hvordan MCAS skulle betjenes. I henhold til luftfartsmyndighetene i Etiopia, støttet av myndighetene Europa, Frankrike og FAA, utførte pilotene det som ble beskrevet, men allikevel styrtet flyet. Pilotene forsøkte å styre høyderoret manuelt men det reagerte ikke. Det er et sjokkerende faktum, forutsatt at dette er riktig fremstilt, at det er ikke mulig å unngå en flystyrt ved en slik situasjon.
Disse ulykkene har fellestrekk:
Graden av automatisering ved flyvning har kommet så langt at pilotenes evne til faktisk å fly har blitt dårligere, klart formulert av både FAA i USA og pilotorganisasjonene selv.
Airbus og Boeing har blitt så store og mektige at selv nasjonale og internasjonale luftfartstilsyn har dels blitt ignorert, dels har overlatt sentrale kontroller til fabrikantene selv – med katastrofale virkninger.
Les også: Pilotene var ikke skyld i flyulykken i Etiopia, heter det i rapport
Den bakenforliggende årsak er troen på at mere automatisering, som er en «dialekt» av kunstig intelligens type programvare (applikasjoner), er gode nok til å overta stadig mer av menneskers intellektuelle evne til å fungere også i uventede situasjoner. Det er vanskelig å unngå påstanden om at dette er feil og blir feil – et dataprogram kan ikke behandle uventede (det vil si ikke programmerte) situasjoner!
Det er å håpe at disse ulykkene kan bidra til en mer edruelig holdning til kunstig intelligens generelt, automatisering spesielt.