Ubers autonome biler er tilbage - og jeg tog en tur

Tech


Ubers autonome biler er tilbage - og jeg tog en tur

I de fleste moralske ræsonnementklasser vil du sandsynligvis støde på trolley-dilemmaet. Der er flere versioner af det filosofiske problem, men i bund og grund er det dette: Der er et løbsk tog, der kører ned ad skinnerne på vej direkte mod fem uskyldige mennesker. Du står i nærheden af ​​en løftestang og har mulighed for at omdirigere toget, kun der er en sjette person på den divergerende rute, som helt sikkert vil blive ramt. Hvad laver du?

Den fremherskende tanke er at ofre de få for at redde de mange, men hvad nu hvis den enlige person på det omlagte spor er din søn? Hvad ville du så gøre?


Hvad nu hvis vi beder en robot om at træffe de samme beslutninger – hvad vil den vælge?

Det er et spørgsmål, der er dukket op oftere, efterhånden som maskiner begynder at tackle komplicerede menneskelige opgaver som at køre bil. 'Det er den mest komplekse daglige ting, den gennemsnitlige person gør,' siger professor Raj Rajkumar fra Carnegie Mellon Universitys robotafdeling. Ifølge Rajkumar vil selvkørende køretøjer være en industri på flere billioner dollars ved udgangen af ​​dette årti - det er en masse robotvogne, der zoomer ind mod disse fem personer.

Men svaret på AI-versionen af ​​trolley-problemet – som alle gode etiske spørgsmål – er et trick: En robot ville ideelt set aldrig finde sig selv i denne situation, eller det lærte jeg, mens jeg gennemførte mit missionsspecialistkursus med Ubers Advanced Technologies Group for at pilotere deres autonome køretøjer. I det væsentlige Uber University, hvor jeg var hovedfag i at prøve tidlig selvkørende software til en eventuel (læs: håbefuld) fremtid, hvor den pågældende robot ville være intelligent nok til at forsøge en uledsaget selvkørende.

Jeg var den første civile inviteret til at deltage i programmet, og jeg mislykkedes. Spektakulært. Ikke fordi jeg ikke var en god chauffør (du burde se mine parallelle parkeringsevner) – jeg klarede også filosofiseminaret – men fordi programmets stringens har ændret sig dramatisk, siden det relancerede efter hændelsen, som ATG-teamet refererer til i dæmpede toner som 'Tempe'.


Den 18. marts 2018, i Tempe, Arizona, oplevede Uber sin egen virkelige variation af trolleyproblemet, da en af ​​dens Volvo XC90'ere gled mod en katastrofe. Det var den perfekte storm: Køretøjets operatør var alt for sikker på teknologien og var opmærksom på sin mobiltelefon i stedet for vejen; den selvkørende software – stadig i en begyndende fase – formåede ikke positivt at identificere en forhindring i bilens direkte vej; og en fodgænger forsøgte at gå på cykel over en bred, motorvejs-tilstødende boulevard om natten i et afmærket område, der forbød jaywalking. Ingen var mentalt der - menneske eller robot - for at trække i håndtaget, og jaywalkeren blev dræbt, hvilket øjeblikkeligt lukkede Ubers spirende autonome køretøjsprogram.

Det ville vare hele ni måneder, før programmet ville relancere i december 2018 som en tilbageholdt version af sit tidligere jeg, fokuseret mest på en testbane ved siden af ​​ATG-hovedkvarteret i Pittsburgh. (San Francisco, Dallas og Toronto har også små satellitforskerhold, men Tempe forbliver permanent lukket.) Og fra den forlængede pause blev der født en ny programfilosofi, der prioriterer kaliberen af ​​indsamlede data (i stedet for mængden). Nye sikkerhedsniveauer blev defineret, og kurserne blev omudviklet til 'nærmere at afspejle luftfartscertificering', forklarer Nick Wedge, leder af læring og udvikling hos Uber ATG. Kort sagt blev de tidligere etablerede sikkerhedsstandarder hævet, hvilket inkluderede yderligere reduktioner af systemforsinkelse - mikroforsinkelserne i autonome køretøjers sensor-til-software-til-hardware-kommunikation - for at sikre, at 'Tempe' ikke vil ske igen.

Sammenligningen med luftfart er rammende, da brugen af ​​autonom teknologi på kommercielle fly allerede er almindelig - piloter håndterer taxa, starter og landinger, men når de først er i luften, starter selvpilotteknologien, overvåget af cockpittet. Og som den nuværende transportform med de bedste sikkerhedsresultater – trods den softwarerelaterede Boeing 737 Max 8-katastrofe – er luftfartsindustriens standarder for risikovurdering nu blevet den tiltrængte skabelon, som den fremvoksende selvkørende industri lagde sin sikkerhed på. rammer. Himlen er selvfølgelig også et kontrolleret miljø, da hver pilot gennemgår intensiv træning; en begrænsende faktor for udbredelsen af ​​selvkørende køretøjer på jorden er ganske enkelt andre menneskers uforudsigelighed. Det er, hvad din far fortæller dig, når han lærer dig at køre på en Walmart-parkeringsplads: 'Det er ikke dig, jeg er bekymret for - det er de andre chauffører!'

Aldrig havde jeg forestillet mig som teenager så desperat efter at få min elevtilladelse, at jeg en dag ville teste den igangværende teknologi, der i en ikke alt for lang fremtid kunne gøre en licens forældet. Efter nogle foreløbige dage med onboarding, briefinger og foredrag om Ubers virksomhedsstruktur, deltager praktikanter (alle undtagen mig er ATG-medarbejdere) i en hel uge med intensive manuelle betjeninger, stifter bekendtskab med Volvo XC90 og tester dens kapaciteter på den afspærrede - af sporet. Nødmanøvrer praktiseres (som at tjekke skriggrænserne for anti-låsebrud), ligesom strenge rutenavigation, parkering og bakningsøvelser - en nøglehuls-bilrotation (trækker en bil ud af en parkeringsplads og skruer den tilbage på samme plads gennem en næsten umuligt stram løkke) kan være en af ​​de mest ubehagelige ting, jeg har gjort i nyere tid.


'Meget af det, du lærer i den manuelle del af missionsspecialistuddannelsesprogrammet, udmønter sig faktisk i styringen af ​​et selvkørende køretøj,' forklarer Wedge. 'Ting som grænsepunkter og okklusioner er virkelig vigtige' - udtryk, jeg aldrig hørte, da jeg lærte at køre bil, da jeg var yngre, men er væsentlige faktorer, når en chauffør skal bestemme risikoen. Behovet for, at alle missionsspecialister har total håndbetjent beherskelse af køretøjet, er afgørende, fordi de i øjeblikket er mellemleddet mellem robotten og dens miljø, da softwaren fortsætter med at tilpasse sig vejforholdene i denne liminale fase. Niveauet og stringens i den manuelle del af træningsprogrammet fremhæver også den grelle ironi ved moderne vejkørsel: Hvis almindelige chauffører deltog i et manuelt træningsprogram af denne kaliber, ville vi allerede være et kæmpe spring tættere på autonomi på grund af den massive potentielt fald i menneskelige fejl. Så hvorfor bliver almindelige chauffører ikke uddannet til et højere niveau i første omgang?

Det enkle svar er: Den måde, vi kører på i dag, er blevet anset for god nok. De 35.000 årlige dødsfald i køretøjer kan lyde af meget - og det er helt sikkert ødelæggende for de involverede - men statistisk set skal du køre over 100.000.000 miles (det er 390 års uafbrudt kørsel), før et dødsfald ville ske. Når du fjerner begrænsende faktorer som distraheret kørsel (sms), nedsat kørsel (ruseri) og træthed (ATG-missionsspecialister må kun sidde bag rattet i to timer; det var 12 før Tempe), er den menneskelige hjerne naturligvis udstyret til at observere, forudse og reagere i trolley-lignende scenarier; selvkørende robothjerner er der ikke helt endnu.

Du kan trykke på kontakten på bilens autonome køretilstand i løbet af den tredje uges missionsspecialistuddannelse. Og det er denne del af kurset, der har set det mest håndgribelige paradigmeskift siden Tempe. Mens målingen er subjektiv, kører bilerne mere defensivt nu - Uber havde i starten for meget tillid til den menneskelige hånd som en fejlsikker - med forbedret detektion og sporing, der bedre skelner usædvanligt formede objekter i bevægelse som fodgængere og cyklister.

Dataindsamlingsmetoder har også ændret sig dramatisk siden Tempe. Før var der behov for at demonstrere fremskridt gennem det, som ATG-teamet nu kalder en 'land grab': en objektiv måde at levere målbare opdateringer - miles clocked - mens selvkørende biler summede langs travle boulevarder og forsøgte at interagere med den virkelige verdens konstante sværm af bevægende kroppe. I stedet for at øve manøvrer, som et venstresving, var den fremherskende tanke at give robotkøresoftwaren med dens uendelige hukommelseskapacitet en fuldstændig forståelse af hver gade, hjørne og kurve, som at huske millioner af sætninger fra et fremmedsprog, men aldrig fatte bøjning eller det grundlæggende i sætningsstruktur.


Nu er guldfeberen for kortlagte miles blevet erstattet med en kvalitativ tilgang til læring: Lær softwaren alle regler og undtagelser for fremmedsproget (som at øve enhver mulig type venstresving på en testbane), og den vil vide, hvordan man generer problemfrit enhver sætning, den har brug for (på vejen). Som softwaren lærer, fungerer den kun inden for grænserne af dets underviste miljø, og prøver nye datapunkter, som en fransk studerende ville med deres lærer, før de flyver til Paris - det er en langsommere forbrænding, men Uber forsøger ikke længere at koge havet.

Og det er her spørgsmålet om trickrobotvogn kommer ind i billedet. Ligesom mennesker opfatter, forudsiger og reagerer kunstig intelligens på de scenarier, den står over for, men forskellen ligger i sofistikeringen af ​​applikationsbaseret selvkørende software. Når den er finjusteret, vil dens forudsigelsesevner være så præcise, at en automatiseret vil-være-vogn simpelthen ikke vil finde sig selv i at løbe mod fem – eller én – personer.

Det er ligeglad med den fremherskende samfundsmæssige mistillid, vi har til AI'er - at de besidder menneskelige beslutningsevner, men uden det moralske slør - maskiner kan tage forudsigelige foranstaltninger for at eliminere den potentielle risiko, der sætter et trolley-dilemma i gang i første omgang. 'Med et konstant 360-billede af verden omkring sig, fungerer selvkørende køretøjer uden problemer med menneskelig ydeevne for at træffe sikrere, mere informerede beslutninger om, hvordan de skal reagere på ting, der foregår omkring det,' siger Nat Beuse, sikkerhedschef for Uber. ATG. Brugen af ​​overmenneskelig teknologi som lidar (lysdetektion og afstandsmåling), radar og kameraer overgår de sensoriske begrænsninger, som manuelle chauffører i sagens natur besidder; i bund og grund er der ikke sådan noget som en robot blindspot. Dette gør i sidste ende trolley-scenariet forældet, fordi dilemmaet i sig selv forudsætter et menneskeligt svigt i opfattelsen, som udløser en forudsigelse (fem eller én personer) og reaktion (valg af vej); et øget verdenssyn engagerer sig tidligere og med mere grundig begrundelse for at isolere negative variabler, før de bliver til uønskede forudsigelser.

Men hvad sker der, når softwaren strander? Det hvirvler hele tiden på min bærbare computer, så hvad gør vi, hvis det opstår i en selvkørende bil? Meget af de autonome kurser vedrører det, der kaldes 'fejlinjektion' - at forhandle målrettet skabte fejl i den selvkørende teknologi, så historien (dvs. Tempe) ikke gentager sig selv. Den tid det tager at genvinde kontrollen over køretøjet (bevæge rattet eller trykke på speederen eller pausen giver piloten køreegenskaberne tilbage) er behørigt målt som pludselige stop og skruenøgler hjælper eleverne med at øve sig i at skrue deres reaktionstid ned til så tæt på nul sekunder som muligt, hvis der skulle ske hikke i det virkelige liv ude i marken. At skærpe førerens opmærksomhed er en nøglefaktor i at undgå ulykker på rejsen mod fuld autonom kørsel, da operatørens selvtilfredshed var en af ​​hovedårsagerne til Tempe-hændelsen. 'Vores nuværende teknologi kræver til enhver tid højtuddannede missionsspecialister bag rattet, og først når vi har valideret, at vores system opfylder vores sikkerhedstilfælde, vil vi udforske fuldstændig autonom kørsel,' tilføjer Wedge. Og med den nye, post-Tempe sikkerhedsramme, der er lånt fra luftfartsindustrien, skal der tages højde for enhver risiko (og en forsikring om, at softwaren ikke vil beachball), før en førerløs bil kan flyve.

Var jeg færdiguddannet, ville jeg være blevet en del af et elitehold hos Uber ATG, der – indtil teknologien når en acceptabel tærskel for brug – kæmper med endnu et filosofisk dilemma, som Wedge omtaler som mistillidens paradoks: “Succesen med missionsspecialist er afhængig af at leve i det grå rum mellem at rodfæste for, at teknologien lykkes, men at forvente, at den mislykkes. Du er på én gang dens mest entusiastiske mester, men også dens største vantro.'

Mærkeligere er forestillingen om, at den totale succes for missionsspecialistteamet – at opnå det, der kaldes NVO (ingen køretøjsoperatør) – betyder eventuel redundans; du plejer i bund og grund teknologi for at gøre dig selv forældet. Så hvad er motivationen (siger skribenten i journalistikkens stadigt svindende felt)?

Det korte svar er, at Uber endnu ikke stræber efter en verden af ​​total autonomi - at udvikle riger af selvkørende pister er det nuværende mål.

For ti år siden var det hele guerillataktik, da Uber hoppede i faldskærm ned på gaderne og skiftede transportparadigmer så dramatisk, at byerne ikke havde andet valg end at adlyde. I dag er disse yottabytes af brugerdata blevet værdifulde værktøjer til de selv samme destinationer, da de isolerer ruter, der er forberedt til autonomi; arterier med høj densitet i et fælles operationelt domæne, hvor selvkørende køretøjer kunne afhjælpe trafikken, reducere kollisionspotentialet og sænke transportprisen for passageren.

Motorveje er et særligt befordrende rum for autonomi, da de bedst tilnærmer kommercielle flyveforhold med deres lange, brede baner, ingen hjørner eller fodgængere og en enkelt fremadgående strøm af køretøjer.

Mens bilfirmaer som Tesla håber at øge salget med deres flotte versioner af 'autopilot' (som for ordens skyld er en opsuget version af fartpilot og ikke ordentlig autonomi), vil Uber hellere tage bilen ud af din indkørsel. Der er ikke lavet nogen dramatiske dekreter om helt at opgive dit køretøj, men en ideel nær fremtid ville tillade pendlere at følge selvkørende kanaler til deres job i centrum. Drømmen er foreløbig at bruge autonomi til at eliminere symptomerne på et overfyldt miljø som flaskehalse i myldretiden, mens man beholder manuelle biler til opgaver tæt på hjemmet som baggadenavigation og indkøb af dagligvarer. Og når teknologien er klar, vil kun passagerer køre i robotbilen, hvilket reducerer driftsomkostningerne ved at køre køretøjet (hvilket igen reducerer billetpriserne for ryttere), da der ikke længere ville være pilotovervågning af navigation.

'Parkeringshuse vil snart være et levn fra fortiden,' bemærker Wedge, og planerne har været godt undervejs i over et årti med udbredelsen af ​​Ubers ride-sharing-app. Men det er selve platformen, som Uber også har skabt, der har nøglen til fremtiden både for at strømline autonomi og for at øge rentabiliteten - det er skakbrættet, hvorpå alle eventuelle selvkørende tjenester vil placere deres brikker: først biler, så fragtbiler , og måske endda busser. Men tak, ingen vogne.