Kortene på bordet

Die Geister, die ich rief

Norwegisch

Demis Hassabis, grunnlegger av selskapet DeepMind som eies av Google, har uttalt at ”spill er et slags mikrokosmos av omverdenen”. Selskapet står bak den kunstige intelligensen AlphaGo, den første noensinne til å slå en ekspert i brettspillet go. Det mer enn to årtusen gamle kinesiske spillet ble ansett som betydelig vanskeligere å beherske for en datamaskin enn sjakk. Antall lovlige posisjoner på spillbrettet er i størrelsesorden 10¹⁷⁰. En så høy grad av kompleksitet gjør det til en uoverkommelig oppgave å løse spillet med rå regnekraft (som innebærer å betrakte spillet i sin teoretiske helhet og fastlegge en vinnende strategi fra første til siste trekk). Go omtales som et intuitivt spill. Og er ikke intuisjon menneskets domene?

I 1996 ble Garry Kasparov, da regjerende verdensmester i sjakk, slått av IBMs program Deep Blue. 20 år senere er et kapittel avsluttet: Kunstig intelligens har overgått mennesket i brettspill, det står én null. Dette er først og fremst menneskets bragd og resultatet av mange års forskning. Det rydder vei for enda mer ambisiøse prosjekter for den type maskinlæring AlphaGo bruker. All den tid spill er menneskeverden i miniatyr bør vi samtidig reflektere over følgende spørsmål: Blir kunstig intelligens en dag så generell og fleksibel at datamaskiner kan overliste mennesker i alle typer intellektuell aktivitet? Fins det en fremtid hvor roboter selv tar initiativ til å lære nye ting?

Kunstig intelligens har enda til gode å utgjøre en reell konkurrent for mennesker i kortspillet bridge. I motsetning til sjakk og go er bridge stokastisk (kortene stokkes før de fordeles til spillerne) og med ufullstendig informasjon (man skjuler kortene for de andre spillerne). Det medfører at et dataprogram ikke kan bruke de samme algoritmene i bridge som i brettspill. Istedenfor å analysere spillet ved hjelp av såkalte spilltrær og med baklengsinduksjon, bruker bridgeprogrammer Monte Carlo-metoden. Det innebærer konseptuelt å gjennomføre et tusentalls simulasjoner, som programmet gjennomfører på noen sekunder, for å finne det trekket som oftest fører til suksess basert på den tilgjengelige informasjonen. Programmet spiller det kortet som med høyest sannsynlighet er optimalt.

Grunnen til at mennesker likevel slår roboter i bridge er at vi trekker på et bredere og rikere informasjonsgrunnlag. Foreløpig er mennesket overlegent i å forstå menneskers tenkemåte og sinnets tilbøyeligheter, og kan omgjøre dette til en strategisk fordel. Utover denne førstehåndserfaringen med ”det menneskelige”, har vi et sanseapparat som gjør oss i stand til å berike og modifisere den rent kvantitative informasjonen som roboten bruker (hvilke kort som blir spilt i hvilken rekkefølge). Vi kan høre usikkerhet i stemmen til motstanderen, betrakte posituren og mimikken hans, plukke opp et øyeblikks nøling, og veier det inn i kalkylen vår. Dette er avgjørende fordi slike ”myke” inntrykk kan brukes til å vurdere hvilke kort som sannsynligvis er riktig å spille. I sjakk og go har slike aspekter annenordens betydning, siden det ikke gir ytterligere informasjon om motstanderens spillerom, kun om dennes sinnstilstand.

Så: Trenger roboter ører, øyne, lukte- og følesans for å ha en sjanse til å beseire mennesket i spill som bridge, hvor informasjonen er ufullstendig og sanselig inndata bidrar til å bygge ned statistisk usikkerhet? Eller kreves en enda høyere grad av intuisjon, en form for bevissthet? Den umiddelbare hindringen til et kunstig sanseapparat hos roboter er de fysiske delene, de som registrerer ytre stimuli. Hos levende vesener har disse utviklet seg evolusjonært over millioner av år; hos roboter har man kun nylig gjort gjennombrudd med visuell gjenkjenning av objekter. Neste hinder på veien til et velfungerende kunstig sanseapparat er bearbeidelsen og fortolkningen av sanseinntrykkene. Noe så subtilt som synet av en knyttet neve kan ilegges ulik betydning basert på situasjonen, kulturen, personen, omgivelsene og så videre. Denne kunnskapen om menneskeverdenen må enten forprogrammeres eller tilegnes av roboten selv.

Microsoft lanserte i år Twitter-brukeren Tay, en såkalt chatbot som hentet kunnskapen sin om verden fra Internett og gjennom interaksjon med andre internettbrukere. Populærkulturen har foreslått å mate en kunstig intelligens med folks forespørsler i søkemotorer som Google (Ex Machina, Avengers: Age of Ultron, Her). Utfallet som forespeiles, er dystert: Grenseløs intelligens som ikke geleides av en etisk vurderingsevne må føre til overgrep mot menneskeheten. Fremtredende personer som Stephen Hawking, Elon Musk og Bill Gates har advart at en fremtid hvor roboter med fri vilje og evne til kontinuerlig å forbedre seg selv utgjør en trussel mot menneskesamfunnet. Den svenske filosofen Nick Bostrom beskrev i 2003 tankeeksperimentet om ”the paperclip maximizer”, et scenario hvor mennesket blir forsøkt fjernet av en robot som har blitt programmert til kun å produsere binderser. Innsikten er at selv uten fiendtlige motiver hos en kunstig intelligens, kan den utgjøre en fare for mennesker og dyr.

Darthmouth-konferansen i 1956 regnes som oppstarten til kunstig intelligens som fagfelt. Utgangspunktet for prosjektet var formodningen at ”ethvert aspekt av læring eller andre kjennetegn ved intelligens kan i prinsippet beskrives så nøyaktig at man kan få en maskin til å etterligne det”. Et slikt standpunkt legger til grunn at ”fornuft” og ”intuisjon” kun er biprodukter av komplekse, men veldefinerte prosesser i hjernen, og ingenlunde forbeholdt mennesket. Det gjenspeiler den hobbske tanken at fornuft til sist ikke er annet enn beregninger. Hvis dét er en korrekt beskrivelse av intelligens, så må nøkkelen til å gjøre roboter (minst) like intelligente som mennesker ligge i hjerneforskningen. Begreper som fornuft og intuisjon røper vår manglende innsikt i menneskehjernen: Vi tilskriver beslutningene våre prosesser som verken lar seg definere eller forklare, men som likevel skal ha utspring i noe kjødelig og ikke-metafysisk. Ludwig Wittgensteins sitat «grensene for mitt språk danner grensene for min verden» beskriver dette fenomenet: vi kan ikke forstå et konsept fullt ut uten å løsrive oss fra ordene vi bruker for å omtale det.

Bridge skiller seg fra de fleste andre spill på en viktig måte: Man spiller på lag med en annen person, og vellykket kommunikasjon mellom disse er en forutsetning for å vinne. Mens go er en intellektuell øvelse for ett individ, er bridge dypest sett et lagspill. Kommunikasjonsaspektet er en Pandoras eske av problemstillinger for programmere og forskere på kunstig intelligens. Følgende tankeskritt gjør en bridgespiller systematisk, enten bevisst eller ubevisst: Hvilket stykke informasjon formidlet makker til meg? Hva var budskapet i denne informasjonen? Hva var intensjonen i dette budskapet? Hvordan ville han jeg skulle tolke denne intensjonen? Hva tror han at jeg tillegger hans intensjon? Valgte han nettopp dette budskapet fordi han vet jeg har tillagt et annet budskap med samme intensjon gal betydning tidligere? Evnen til å sette seg inn i et annet menneskes følelses- og tankemønster – empati – gjør mennesker til mer skikkede bridgespillere (i det minste i makkerskap med et annet menneske). Dersom empati er ett av kjennetegnene ved intelligens som Darthmouth-grunnleggerne snakker om, kan det i så fall programmeres? Hvis ikke, setter det muligens en øvre grense for streben etter å oppnå menneskelig intelligens hos roboter.

Forskningen på kunstig intelligens er fortsatt i sin barndom – de største gjennombruddene ligger foran oss. Johan Fredrik Storm, en norsk hjerne- og bevissthetsforsker, hevder at roboter én dag vil kunne ha en bevissthet på linje med menneskets (enkelte vil ta til motmæle mot ham med ”det kinesiske rommet”-argumentet). Å la dataprogrammer få kappes mot mennesker i ulike spill er lakmustesten på fremskrittene innenfor kunstig intelligens. Sjakk og go var gårdagens utfordringer for programmerere; det neste nybrottsarbeidet blir spill som bridge med psykologiske og probabilistiske aspekter. Her er mennesket, med sitt sanseapparat og sin intuitive forståelse for spillet, fortsatt suverent. I Goethes ballade Trollmannens læregutt mister gutten kontrollen over feiekosten, som han har forhekset til sin tjeneste. Et ønske om å bruke magien til å gjøre godt, uten helt å mestre magiens kraft, førte til kaos. Realismen i en slik snøballeffekt må veies opp mot verdien av magiske koster.

Deutsch

Demis Hassabis, Gründer der Google-Tochter DeepMind, hat in einem Interview gesagt: Spiele sind eine Art Mikrokosmos der Umwelt. Das Unternehmen hat die künstliche Intelligenz AlphaGo entwickelt, die erstmals einen professionellen Spieler beim Brettspiel Go besiegt hat. Das mehr als zwei Jahrtausende alte chinesische Spiel sollte für einen Computer deutlich schwieriger zu meistern sein als zum Beispiel Schach. Die Anzahl erlaubter Positionen auf dem Spielbrett liegt in der Größenordnung 10¹⁷⁰. Ein so hohes Maß an Komplexität macht das Lösen des Spiels mit roher Gewalt zu einer unerschwinglichen Aufgabe (bestehend darin, das Spiel in seinem theoretischen Ganzen zu betrachten, um eine vom ersten bis zum letzten Zug spezifizierte Gewinnstrategie festzulegen). Go wird ein intuitives Spiel genannt. Und ist Intuition nicht die Domäne des Menschen?

1996 wurde Garry Kasparov, damals Weltführender im Schach, von IBMs Programm Deep Blue besiegt. 20 Jahre später ist ein Kapitel zu Ende: Künstliche Intelligenz hat die Menschen in Brettspielen überholt, es steht eins zu null. Dies kann als Großtat der Menschheit betrachtet werden und ist vor allem das Ergebnis vieler Jahre Forschung. Es bereitet den Weg für noch ehrgeizigere Projekte zur Weiterentwicklung derjenigen Art maschinellen Lernens, die Alpha Go nutzt. Solange Spiele eine Miniaturausgabe der Menschenwelt darstellen, sollten wir uns gleichzeitig folgende Fragen stellen: Wird künstliche Intelligenz eines Tages so allgemein und flexibel sein, dass Computer die Menschen in allen Arten intellektueller Aktivität übertreffen werden? Werden in Zukunft Roboter selbst die Initiative ergreifen, neue Dinge zu erlernen?

Noch kann künstliche Intelligenz Menschen im Kartenspiel Bridge keine wahre Konkurrenz bieten. Im Gegensatz zum Schach und Go ist Bridge stochastisch (die Karten werden vor dem Austeilen gemischt) und hinsichtlich der Information unvollständig (man verbirgt seine Karten vor den Gegnern). Das hat zur Folge, dass ein Computerprogramm nicht dieselben Algorithmen im Bridge wie in Brettspielen verwenden kann. Statt das Spiel anhand sogenannter Spielbäume und mittels Rückwärtsinduktion zu analysieren, ziehen Bridgeprogramme die Monte Carlo-Methode zurate. Diese besteht konzeptionell darin, innerhalb weniger Sekunden tausende Simulationen durchzuführen, um denjenigen Zug zu finden, der bei der verfügbaren Information am häufigsten zum Erfolg führt. Das Programm spielt also diejenige Karte, die mit der größten Wahrscheinlichkeit richtig ist.

Der Grund, wieso Menschen Roboter beim Bridge trotzdem schlagen, ist, dass wir aus einer breiteren Informationsbasis schöpfen. Einstweilen ist der Mensch den Robotern darin überlegen, die menschliche Denkweise und die geistigen Neigungen zu verstehen, und kann dies in einen strategischen Vorteil umwandeln. Über diese Erfahrung mit dem Menschlichen hinaus haben wir einen Sinnesapparat, der es uns möglich macht, die rein quantitative Information, die der Roboter nutzt (welche Karten in welcher Reihenfolge gespielt werden), zu bereichern und zu mäßigen. Wir können eine Unsicherheit in des Gegners Stimme hören, seine Haltung und Mimik beobachten, ein kurzes Zögern erkennen – und wir wägen diese Faktoren in unserem Kalkül ab. Das ist entscheidend, weil gerade solche „weichen“ Eindrücke zur Beurteilung dessen verwendet werden können, welche Karte wahrscheinlich am besten zu spielen ist. Im Schach und Go haben solche Aspekte nur eine zweitrangige Bedeutung, weil sie keinerlei weitere Information über den Spielraum des Gegners bieten, nur über seinen Gemütszustand.

Brauchen Roboter also Ohren, Augen, Geruchs- und Gefühlssinn, um eine Chance zu haben, den Menschen in Spielen wie Bridge zu schlagen, in denen unvollständige Information herrscht und sinnliche Inputs zum Abbau statistischer Unsicherheit beitragen? Oder ist ein noch höheres Niveau an Intuition erforderlich, eine Art Bewusstsein? Das unmittelbare Hindernis zum künstlichen Sinnesapparat bei Robotern sind die physischen Teile, die einen äußeren Stimulus registrieren. Bei Lebewesen haben sich jene Teile über Millionen von Jahren evolutionär entwickeln können; bei Robotern hat man erst neuerdings Durchbrüche bei visueller Erkennung von Objekten gemacht. Das nächste Hindernis auf dem Weg zu operativen, künstlichen Sinnen ist die Verarbeitung und Interpretation der Sinneseindrücke. Etwas derart Subtilem wie dem Anblick einer geballten Faust kann basierend auf der Situation, der Kultur, der Person, den Umgebungen und so weiter, unterschiedliche Bedeutungen zugewiesen werden. Dieses Wissen über die Menschenwelt muss entweder vorprogrammiert oder vom Roboter selbst erworben werden.

Heuer lancierte Microsoft den Twitter-Benutzer Tay, einen sogenannten Chatbot, der seine Kenntnisse über die Welt durch das Internet und durch Interaktion mit anderen Internetnutzern erlangt. Die Populärkultur hat vorgeschlagen, eine künstliche Intelligenz mit den Anfragen in Suchmaschinen wie Google zu füttern (Ex Machina, Avengers: Age of Ultron, Her). Der Ausblick, der uns vorgespiegelt wird, ist ganz düster: Grenzenlose Intelligenz, die nicht von ethischem Urteilsvermögen begleitet wird, muss zum Übergriff gegen die Menschheit führen. Tonangebende Personen wie Stephen Hawking, Elon Musk und Bill Gates haben vor einer Zukunft gewarnt, in der Roboter mit freiem Willen und der Veranlagung, sich selbst stetig zu verbessern, eine Bedrohung für die menschliche Gesellschaft darstellen. 2003 beschrieb der schwedische Philosoph Nick Bostrom das Gedankenexperiment von the paperclip maximizer, ein Szenario, in dem ein Roboter, der dazu programmiert worden ist, eine maximale Anzahl an Büroklammern zu produzieren, versucht, den Menschen zu vernichten. Die Einsicht ist die, dass selbst ohne feindliche Beweggründe eine künstliche Intelligenz zur Gefahr für Menschen und Tiere werden könnte.

Die Darthmouth-Konferenz 1956 gilt als die Begründung des wissenschaftlichen Fachbereichs der Künstlichen Intelligenz. Der Ausgangspunkt des Projekts war die Vermutung, dass jeder Aspekt des Lernens oder weitere Kennzeichen von Intelligenz […] im Prinzip so genau beschrieben werden [können], dass eine Maschine zum Nachahmen davon programmiert werden könnte. Ein solcher Standpunkt legt zugrunde, dass Vernunft und Intuition bloße Nebenprodukte komplexer, jedoch wohldefinierter Prozesse im Gehirn sind, und keinesfalls dem Menschen vorbehalten. Das spiegelt den Hobbes’schen Gedanken wider, dass Vernunft letztendlich nichts anderes ist als Berechnungen. Wenn das eine korrekte Beschreibung von Intelligenz ist, dann hat die Gehirnforschung den Schlüssel dazu, wie man Roboter (mindestens) genauso intelligent wie Menschen macht. Begriffe wie Vernunft und Intuition verraten unser fehlendes Verständnis fürs Menschengehirn: Wir schreiben unsere Entscheidungen Prozessen zu, die sich weder definieren noch erklären lassen, die dennoch ihren Ursprung in etwas Leiblichem und Nicht-metaphysischem haben sollen. Ludwig Wittgensteins Zitat die Grenzen meiner Sprache bedeuten die Grenzen meiner Welt erfasst dieses Phänomen: Wir können ein Konzept nicht vollends verstehen, ohne uns von den Wörtern loszureißen, mit denen wir es besprechen.

Bridge unterscheidet sich von den meisten anderen Spielen in einer wichtigen Hinsicht: Man spielt mit einer anderen Person zusammen und das Gewinnen setzt gelungene Kommunikation zwischen diesen beiden Spielern voraus. Während Go eine intellektuelle Übung für ein Individuum ist, ist Bridge im tiefsten Sinne ein Teamspiel. Der Kommunikationsaspekt wird Programmierern und AI-Forschern eine Büchse der Pandora sein. Folgende Gedankenschritte macht ein Bridgespieler systematisch, bewusst oder unbewusst: Welches Stück Information vermittelte mir mein Partner? Was war die Botschaft dieses Stücks Information? Was war die Intention hinter dieser Botschaft? Wie hätte er gern, dass ich diese Intention verstünde? Was glaubt er darüber, welche Bedeutung ich dieser Intention beimesse? Wählte er genau diese Botschaft, weil er wusste, dass ich früher einer anderen Botschaft mit dergleichen Intention eine falsche Bedeutung beigemessen habe? Die Fähigkeit, sich in die Denkweise und die Gefühle anderer Menschen hineinzuversetzen – Empathie – macht Menschen zu geschickteren Bridgespielern (zumindest in Partnerschaft mit einem anderen Menschen). Falls Empathie eines der Kennzeichen der Intelligenz ist, welche die Darthmouth-Gründer meinen, lässt sie sich in dem Fall überhaupt programmieren? Wenn nicht, setzt das womöglich eine obere Schwelle fürs Streben danach, Robotern menschliche Intelligenz zu verleihen.

Die Forschung in Künstlicher Intelligenz ist immer noch im Anfangsstadium – die größten Durchbrüche liegen noch vor uns. Johan Fredrik Storm, ein norwegischer Gehirn- und Bewusstseinsforscher, behauptet, Roboter würden eines Tages ein dem menschlichen entsprechendes Bewusstsein haben (manche werden ihm mit dem Chinesischen Raum-Argument vielleicht darin widersprechen). Wenn man Computer mit Menschen in verschiedenen Spielen wetteifern lässt, hat man einen Lackmustest der Fortschritte in maschinellem Lernen. Schach und Go waren der Programmierer Herausforderungen von gestern; die nächste Pionierarbeit werden Spiele wie Bridge sein, mit ihrer psychologischen und stochastischen Eigenart. Hier ist der Mensch, mit seinem Sinnesapparat und intuitiven Verständnis fürs Spielen, weiterhin souverän. In Goethes Ballade Der Zauberlehrling gerät der Besen außer Kontrolle, den der Junge dazu verzaubert hat, ihm zu dienen. Der Wunsch, die Magie zum Zweck des Guten einzusetzen, ohne die Kraft der Magie ganz zu beherrschen, führte zum Chaos. Wir sollten zunächst den Realismus dieses Dammbrucharguments gegen den Wert magischer Besen abwägen.

Feedback

Dieser Thread wurde geschlossen.