• Kontakt
• So finden Sie uns
• Klinikumseinrichtungen
• Presse

Der Turing-Test – Ein ungeeignetes Paradigma der künstlichen Intelligenz

von Michael Bach

This text was finished in 1990, so it is already historically interesting...

Das Gehirn als Computer– ein heute offenbar unvermeidlicher Vergleich. Die “künstliche Intelligenz” tritt immer noch mit dem Anspruch auf, der sich in ihrer eigenen Namensgebung dartut. Programmatisch ist das Ziel, mit einem Rechner den “Turing-Test” zu bestehen. Doch das Ziel ist ferner als je zuvor, und eine Maschine kann in Ermangelung unserer “Körperlichkeit” nicht den Turing-Test bestehen.

Das alte Leib-Seele-Problem mit seiner Auseinandersetzung zwischen monistischen und dualistischen Weltbildern (z.B. Fodor 1981, Bunge 1980) begegnet uns heute in neuem Gewand als Gehirn-Computer-Analogie. Typisch ist folgender Satz, den ich kürzlich im Mitglieder-Blättchen einer Krankenkasse fand: “Unser Gehirn mit einem Computer zu vergleichen, wie es heute gerne geschieht, ist so unpassend und unzureichend, als würde man einen Rennwagen zu einer Postkutsche in Konkurrenz stellen” (Conradt 1990). Diesen Satz muß man sich erst 'mal auf der Zunge zergehen lassen: Offenbar wird das Gehirn sehr wohl als Computer gedeutet, wenn auch als ein besonders guter. Gewissen Analogien zwischen Gehirn und Computer sollte man jedoch schon deshalb ein gewisses Mißtrauen entgegenbringen, weil der Mensch sich selbst schon immer im Spiegel seiner aktuellen Technik gedeutet hat (technomorphe Anthropologie): In der Antike hatte Thales eine Art hydraulisches Körpermodell vor Augen. Im 17. Jahrhundert scheint Descartes' Darstellung der Nerven als hohle Röhren einem Klingelzug für Dienstboten nachgebildet zu sein: diese Nerven sollten Ventile im Kopf betätigen, mit denen die Glieder bewegt wurden. Die Rechenmaschinen von Brewster und Babbage waren ein Gewimmel von Mechanik und Zahnrädern und sollten durch Dampfmaschinen angetrieben werden. Heute ist durch die Informationsübertragungstheorie und dem daraus entsprungenen Rechner eine neue Qualität in das Nachdenken des Menschen über sich selbst gekommen: Wenn man das Gehirn im herrschenden Paradigma als “informationsverarbeitendes System” deutet, und die Informationstheorie doch gezeigt hat, daß die prinzipielle Funktionalität einer Software im Sinne einer Turing-Maschine (Hopcroft 1984) unabhängig vom Substrat –der Hardware– (Relais, Röhren, Fluidics, Halbleiter, ...) ist, dann ist ja nicht einzusehen, warum nicht auch “Wetware” nämlich Neurone im Sinne neuronaler Netze (McCulloch & Pitts 1943, 1947, PERCEPTRON, Palm 1988, Tank & Hopfield 1988) als Hardware dienen sollten. Der nächste naheliegenderSchritt ist, daß unser Denken Algorithmen folgt (vgl. Malsburg 1985).

Wenn das obige Zitat aus der Krankenkassen-Zeitung auch aus einer vereinfachenden populärwissenschaftlichen Darstellung stammt, so charakterisiert es doch treffend das aktuelle Paradigma der “KI”. Was ist KI? Die Abkürzung steht für “Künstliche Intelligenz”, was zunächst einmal eine Fehlübersetzung aus dem englischen “Artificial Intelligence” darstellt. Meines Erachtens liegt dem derzeitigen Ansatz der “künstlichen Intelligenz” sowieso ein verkümmertes Menschenbild zu Grunde, nämlich nur der Teil, den man als “informationsverarbeitendes System” auffassen kann. Die Intelligenz, die da gemeint ist, ist eben genau die, welche Hersteller von Datensichtgeräten in ihren Werbungsprospekten zu der Bezeichnung “intelligentes Terminal” führt. Um von der Polemik, zu der mich zweifellos meine eigene Faszination durch Rechner verführt (ein schönes Beispiel: Braitenberg 1986), loszukommen, möchte ich den Turing-Test diskutieren.

Alan Turing schlug 1950 den jetzt nach ihm benannten “Turing-Test” (‘TT’) vor, um die Frage “Können Maschinen denken?” zu konkretisieren: Ein Tester (oder eine Gruppe von Testern) kommuniziert mit einem unsichtbaren Partner über eine neutrale Schnittstelle (z.B. Tastatur & Monitor). Nur mittels des Dialoges soll herausgefunden werden, ob der unsichtbare Partner ein Mensch oder ein Computer (genauer: ein Programm in einem Computer) ist. Wenn auf Grund des Dialoges diese Frage nicht sicher entschieden werden kann, so hat die Maschine den TT bestanden und gilt als “intelligent”. Innerhalb der KI wird der TT durchaus als akzeptabel angesehen, auch von Wissenschaftlern (wie Hofstadter 1980, p. 600), die nicht der “Hardcore-KI” zuzuordnen sind.

Eigentlich hat bereits eine Maschine den TT bestanden, und zwar das sehr einfache Programm “ELIZA” (Weizenbaum 1965), das einen nicht-direktiven Therapeuten simuliert. Weizenbaum hatte es eigentlich als Parodie ersonnen, um zu zeigen, wieviel “Intelligenz” ohne das geringste semantische Verständnis vorgegaukelt werden kann. Er war überrascht und entsetzt, wie viele Leute sich dadurch narren ließen und nicht glauben wollten, daß sie sich einem Rechner anvertraut hatten (Weizenbaum 1976). Der Erfolg von ELIZA lag natürlich zum einen daran, daß die Benutzer nicht systematisch zu ermitteln suchten, ob es sich um eine Maschine handele. Zum anderen mag er daran liegen, daß man sich durch Simulation eines nicht-direktiven Therapeuten um die programminterne Repräsentation des “Wissens um die Welt” (faktisches und prozedurales Wissen, “Wissensrepräsentation”) herumdrücken kann. Wenn sich bei ELIZA jemand über die Schwiegermutter beklagt, schert sich das Programm in keiner Weise um die Verwandschaftsverhältnisse, sondern sagt höchstens: “Erzählen Sie mir mehr über Ihre Schwiegermutter”. Und wenn es keines der eingegebenen Wörter in seiner “Reizwortliste” findet, kehrt es einfach zu einer früheren Frage zurück .

Die Wissensrepräsentation ist nach wie vor eines der Hauptprobleme der KI. Die derzeit propagierten “Expertensysteme” (z.B. Hayes-Roth et al 1983), leiden typischerweise unter dem Stammtisch-Syndrom “Denn sie wissen nicht, daß sie nichts wissen”: Wenn man etwa versucht, einen Beinbruch mit MYCIN's Ratschlägen zu behandeln, so endet das mit der Diagnose einer exotischen Pilzinfektion, denn MYCIN kennt keine Brüche. Winograds Versuch, maschinell Sprache zu verstehen (SHRDLU, Winograd 1972), war deshalb so erfolgreich, weil er pfiffigerweise die Welt auf die “Blockwelt” (ein Tisch mit Bauklötzchen darauf) reduzierte. Inzwischen scheint sich langsam ein Konsens herauszubilden (Winograd 1984, Schefe 1986, Dechau 1989, Churchland & Smith-Churchland 1990, Weizenbaum 1990, Zimmer 1990; aber: Moravec 1990): Nach der naiven Aufbruchsstimmung und den utopischen Versprechungen der 60-80er Jahre (“Computer werden den Menschen überflügeln”, z.B. von Neumann 1960, Sutherland 1968) mußte ein jäher Absturz der KI kommen, aus dem sie sich nur mühsam berappelt. Ein typisches Beispiel für den Mißerfolg im Erfolg sind die Schachprogramme (Runkel 1990): Die sind heute so gut, daß nur wenige Großmeister die Programme noch sicher besiegen können. Und man muß nur warten, bis die Rechner noch ca. 10 schneller werden (oder parallel), dann gewinnt kein Mensch mehr. Dennoch ist dieser Erfolg gleichzeitig ein grandioser Mißerfolg der KI, denn die heute erfolgreichen Programme arbeiten nur mit “nackter Gewalt”: Keine Heuristiken mehr, kein strategisches Planen, kein “Verständnis”; einfach ein stures Bewerten des Figurenvorteils, möglichst viele Züge voraus.

Beim derzeitigen Stand kann man also lediglich theoretisch darüber streiten, ob eine Maschine den TT bestehen kann oder nicht. Oder man kann darüber streiten, ob der TT ein sinnvoller Test ist und ein bestandener TT echtes “Verständnis” bedeutet (Searle 1980, 1990).

Interessanter als diese theoretischen Überlegungen mögen die Ergebnisse eines Experimentes sein, welches ich als Praktikum im Rahmen einer Vorlesung “Gehirn & Computer” durchgeführt habe: Wir führten Turings ursprüngliche Version des Imitationsspiels durch (Turing 1950): Im Unterschied zum normalen TT sollte nicht erraten werden, ob am anderen Ende des Terminals ein Mensch oder ein Rechner sitzt, sondern ob die GesprächspartnerIn (die Testperson) weiblichen oder männlichen Geschlechtes ist; Lügen war ihr/ihm erlaubt. Kann man durch einen schriftlichen Dialog das ‘wahre’ Geschlecht der Testperson ermitteln? Wir stellten fest, daß –entgegen unseren Erwartungen– in 3 von 4 Fällen das Geschlecht korrekt erraten wurde. Natürlich kann man von der kleinen Fallzahl nicht verallgemeinern, wohl aber von folgender Beobachtung: Man muß nur lange genug auf bestimmten Details entweder der “Körperlichkeit” oder geschlechtsspezifischer Rollen herumreiten. Ein typisches Beispiel ist Kinderspielzeug (seit ich meine eigenen Kinder beobachte, bin ich bezüglich der “Anlage/Umwelt”-Frage doch von einem starken “Anlage”-Einfluß überzeugt worden):

Untersucher: “Hast Du als Kind eine Eisenbahn gehabt?” -- Testperson: “Ja”.

“War es Märklin oder Fleischmann?” -- “Fleischmann”.

“Wie hast Du das Problem der Umpolung bei Wendeschleifen gelöst?” -- “Tja....”

Jetzt besteht eine sehr hohe Wahrscheinlichkeit dafür, daß eine Frau, einen Mann simulierend, hier nicht mehr weiter weiß. Entsprechend konsequente Fragen auf möglichst vielen Gebieten (unter Beachtung des guten Geschmacks, natürlich) führen mit immer höherer Wahrscheinlichkeit zur korrekten Erkennung des Geschlechts der Testperson.

Diese Erfahrungen mit der menschlichen Variante des TT zeigen, daß ein Programm, welches den TT bestehen können soll, offenbar über eine sehr genaue Simulation der menschlichen Gefühlswelt und aller Körpererfahrungen verfügen müßte. Dies führt mich zu der Ansicht, daß der TT überhaupt nicht geeignet ist, “künstliche Intelligenz” einzuschätzen. Ich möchte diese Meinung zunächst in Stichpunkten begründen:

1. Unser Denken ist weitestgehend von unserer “Körperlichkeit” determiniert.
2. Eine vollständige Simulation der Körperlichkeit ist erforderlich, wenn ein Programm den TT bestehen soll.
3. Eine vollständige Simulation der Körperlichkeit ist lächerlich und kein sinnvolles Ziel für die KI.
4. Sinnvolle “Triebe” für eine Maschine wären mit den Details ihrer technischen Existenz verbunden.
5. Eine Maschine mit technischen “Trieben” hätte eine Denkwelt, die im TT sofort als andersartig erkannt werden kann.
6. Ein sinnvolles KI-Programm kann also nicht den TT bestehen.

Zu (1) Das, was ich als spezifisch menschlich empfinde, unser bewußtes Denken, Empfinden, Planen & Handeln, ist m.E. in sehr hohem Maße durch unsere “Körperlichkeit” (im weitesten Sinne) geprägt; nicht nur in Bezug auf die elementaren Bedürfnisse des Stoffwechsels und der Arterhaltung, sondern auch in unseren kulturellen Betätigungen. Turing (1950) argumentiert zwar (unter Einwand Nummer 5), daß “Argumente, die verschiedene Unzulänglichkeiten betreffen” nicht geeignet seien, eine Maschine im TT zu disqualifizieren. Mein Punkt hier ist jedoch, daß der Mangel der “Körperlichkeit” beim Rechner kein isoliertes Problem ist, sondern daß es kaum ein Gesprächsthema gibt, bei dem nicht unsere körperliche Existenz entscheidende Assoziationsgrundlage ist; als Beleg hierfür würde ich z.B. die Psychoanalyse bemühen.

Zu (2): Eine vollständige Simulation der Körperlichkeit schließt natürlich Rasse, physische Eigenschaften, frühkindliche Sozialisation, Beruf, Ehestand, Sexualität, Faulheit & Ehrgeiz, Erkrankung, Schmerz und Tod mit ein, denn auch über diese Themen müßte man mit einer Maschine im TT reden können. In Turings Artikel (1950) ist ein kurzer hypothetischer TT-Dialog beschrieben, bei dem die befragte Maschine der Aufforderung nach einem Gedicht ausweicht: “In diesem Punkt muß ich passen. Ich könnte nie ein Gedicht schreiben”. So darf das natürlich nicht dauernd gehen. Dafür läßt Turing die Maschine sich bei der als nächstes gestellten Rechenaufgabe verrechnen! Ich würde im TT nach der Wurzel aus 4711 fragen, und erwarten, daß dann z.B. Assoziationen in Richtung Kölnischwasser, Parfüm, berauschend schöne Frauen etc. auftauchten oder zumindest nachvollziehbar wären.

Zu (3): Searle (1990) wirft der KI vor, ein simulierter “Geist” sei so unreell wie ein simulierter Wirbelsturm, bei dem ja niemand wirklich naß werde. Dies Argument trifft jedoch für “geistige” Äußerungen einer Maschine nicht zu, denn diese könnten genauso reale Folgen in der Welt auslösen, wie Äußerungen des Menschen. Sein Argument trifft hingegen sehr wohl auf die Simulation der Körperlichkeit zu, die ja nach (2) für ein Bestehen des TT erforderlich ist. Eine so genaue Simulation der Körperlichkeit ist in meinen Augen sogar höchst lächerlich. Sie dient nur dem verzweifelten Bemühen, den TT zu bestehen, und ist für das Funktionieren der Maschine selbst völlig sinnlos.

Zu (4): Wenn also eine Nachbildung der menschlichen Körperlichkeit lächerlich, da sinnlos ist, was wären denn dann sinnvolle Triebe für eine Maschine? Nun, die menschlichen Triebe haben wohl ihren Sinn darin, daß sie erfolgreich der Erhaltung des Individuums bzw. der Art gedient haben . Ein vergleichbarer Erfolg für eine Maschine wäre wohl ein Fortbestehen ihrer “aktiven Existenz”; d.h. sie müßte z.B. eine Unterbrechung der Stromversorgung fürchten oder ihre Abschaltung zu verhindern suchen. Dies nur als erste Vermutungen vorbehaltlich genauerer Untersuchungen dieses Aspekts.

Zu (5) & (6): Offensichtlich hätte eine Maschine mit technischen “Trieben” eine völlig andere Denkwelt als die unsere. Somit kann ein “sinnvolles” KI-Programm also nicht den TT bestehen.

Gerade den Schwierigkeiten der KI verdanken wir eine überzeugende technische Demonstration der Universalität menschlicher Intelligenz. Selbst wenn die KI einmal dienstbare Roboter entwickelte, so könnte daraus kein Beitrag zur Lösung des Leib-Seele-Problems entstehen: Unsere geistige Befindlichkeit ist nicht von unserer Körperlichkeit zu trennen.

Kommentierte Literaturauswahl

1. Braitenberg V (1986) Künstliche Wesen. Verhalten kybernetischer Vehikel. Vieweg & Sohn, Braunschweig

   “Das Problem des Geistes im Geiste zergehen lassen”. Wunderbare Spielerei in “synthetischer Psychologie”

2. Bunge M (1980) The mind-body problem. A Psychobiological approach. Pergamon Press, Oxford.

   Zu Naturwissenschafts-arrogant, aber ein interessanter Zugang, z.B. tabellarische Gegenüberstellung von Monismen und Dualismen

3. Churchland PM, Smith-Churchland P (1990) Ist eine denkende Maschine möglich? Spektrum der Wissenschaft 3:47-54

   “Ja. Obwohl sich mit herkömmlichen Computern wohl kein Bewußtsein erzeugen läßt, könnte dies mit Systemen, die das Gehirn nachahmen, durchaus gelingen”. Gegenüber früheren Veröffentlichungen sind die Churchlands wesentlich gemäßigter in Bezug auf die Möglichkeiten der KI geworden und geben eine (m.E.) überzeugende Widerlegung von Searles' Thesen. Natürlich der aktuellen Mode folgend, die das Heil der KI in den “neuronalen Netzwerken” erblickt.

4. Conradt M (1990) Serie “Unser Körper”: Das Gehirn. TK aktuell 2:10-11
    
5. Dechau CP (1989) Der Traum vom redenden Rechner. Geo Wissen 2:44-55

   Ausgezeichneter populärwissenschaftlicher Übersichtsartikel zum Stand der KI

6. Dotzler B, Kittler F (Hrsg) Alan M. Turing. Intelligence Service. Schriften. Brinkmann & Bose, 1988

   Kenntnisreiche treffende Sammlung & Übersetzung wichtiger Schriften Turings mit Nachwort in naßforsch postmodernem Stil

7. Fodor JA (1981) The Mind-Body Problem. Scientific American 1:124-132

   Der Untertitel lautet: “Können Computer Schmerzen empfinden, Marsmenschen hoffen und Geister Gedanken haben? ...” Der Artikel ist besser, als dieser Untertitel erwarten läßt, gibt aber keinen breiten Überblick, sondern stellt vorwiegend die monistische Variante “Funktionalismus” dar.

8. Hayes-Roth F, Waterman DA, Lenat DB (eds) (1983) Building Expert Systems. Addison-Wesley Inc. Lindon/Amsterdam 1983

   Übersicht und Anwendungsbeispiele von EMYCIN, KAS, PROSPECTOR, EXPERT, OPS5, HEARSAY-III, RLL, ROSIE, AGE

9. Hofstadter DR (1980) Gödel, Escher, Bach: An eternal golden braid. Random House, New York.

   Faszinierend, schon fast ein Kultbuch. Hauptthema: Selbstreferenz (siehe Hofstadter (1980)), auch Form vs. Inhalt, künstliche Intelligenz, genetischer Kode, Gödelsches Theorem

10. Hopcroft JE (1984) Turingmaschinen. Spektrum der Wissenschaft 7:34-49

    Sehr anschauliche Erklärung der Turingmaschine und Darstellung der mathematischen Hintergründe & der Komplexitätstheorie.

11. Malsburg C von der (1985) Algorithms, brain and organization. In: Demongeot J, Golès, Tchuente M (eds) Dynamical systems and cellular automata. Academic press, London.

    “It would be ridiculous to identify the working of our brain with the execution of an algorithm. ... Yet the brain must follow some ”algorithm“ ... which can be transmitted ... to the next generation” --> “trivial algorithm”. Sehr schön.

12. McCulloch WS, Pitts WH (1943) A logical calculus of ideas immanent in nervous activity. Bull Math Biophys 5:115-133

    und

13. Pitts WH, McCulloch WS (1947) How we know universals. The perception of auditory and visual forms. Bull Math Biophys 9:127-147

    Zwei Klassiker des kybernetischen Zugangs zum Gehirn. Es wird gezeigt, daß die Grundoperationen der Aussagenlogik (Konjunktion, Disjunktion & Negation) mit neuronalen Verknüpfungen darstellbar sind. Der Begriff “Universals” kommt übrigens aus der Linguistik.

14. Moravec H (1990) Der Mensch als Maschine (Künstliche Intelligenz) ZEIT-Magazin 12:28-34

    Ein aktueller Vertreter der “Hardcore-KI”: Computer werden den Menschen in der Evolution ablösen und die Fackel des Geistes weitertragen...

15. Neumann J von (1960) Die Rechenmaschine und das Gehirn. R. Oldenbourg Verlag München.

    Von einem der ‘Väter’des Computers, aber ziemlich langweilig, im Wesentlichen über Binärkode etc., was mit dem Gehirn ja nicht viel zu tun hat.

16. Palm G (1988) Assoziatives Gedächtnis und Gehirntheorie. Spektrum der Wissenschaft 6:54-64

    “KI ... war in mancher Hinsicht erfolgreich ... aber vorerst (wurde) nicht erreicht: aus der Logik intelligenter Programme Aufschlüsse über die Arbeitsweise des Gehirns zu erhalten.” Gute anschauliche Darstellung neuronaler Netzwerke (von einem Theoretiker, der auch 'was von der Neurophysiologie versteht) und assoziativer Speicher.

17. Runkel W (1990) Brutaler Brüter (Computerschach). ZEIT-Magazin 12:92-99.

    Schöner populärer Überblick über den Stand der Schachprogramme

18. Schefe P (1986) Künstliche Intelligenz – Überblick und Grundlagen. Reihe Informatik 53. Bibliographisches Institut; Mannheim, Wien, Zürich.

    Ein Vorlesungsmanuskript, knapp und umfassend; unterdrückt nicht die Probleme der KI: “Das Scheitern der Ansätze von McCarthy, Newell und Simon scheint mir offensichtlich. Die Welt als eine Menge von Fakten ... zu betrachten und die Intelligenz als ein geschlossenes formales System zu modellieren, ist mit dem heutigen naturwissenschaftlichen Weltbild nicht mehr zu vereinbaren” (p. 193).

19. Searle JR (1980) Brains, Minds & Computers. The Behavioral and Brain Sciences 3:417-457

    “(strong) AI is about programs, and no program by itself can think, it needs internal causal powers equal to those of the brain.” Amüsant, auch wenn man nicht seiner Meinung ist. Sehr schön immer in dieser Zeitschrift die Kommentare von 30 anderen Wissenschaftlern dieses Gebietes zu dem Artikel.

20. Searle JR (1990) Ist der menschliche Geist ein Computerprogramm? Spektrum der Wissenschaft 3:40-47

    “Nein... Ein Programm manipuliert Symbole nur, während das Gehirn ihnen Bedeutung beilegt. Wie also soll ein Programm denken können, wenn es nicht versteht, womit es eigentlich hantiert.” Neuauflage des “chinesischen Zimmers” von 1980. Überzeugende Widerlegung durch Churchland & Churchland 1990.

21. Shortliffe FH (1976) Computer-based medical consultations: MYCIN. American Elsevier, New York.

    Über MYCIN habe ich nur Sekundärliteratur gelesen und kann daher dieses Buch nicht einschätzen.

22. Sutherland NS (1968) Maschinen wie Menschen. In: Jungk R, Mundt HJ (Hrsg) Maschinen wie Menschen. Fischer Verlag, 1973

    Noch in der Aufbruchsstimmung der KI geschrieben: “Der Mensch wird bald Rechner entwerfen können ... die intelligenter sind als er selbst”.

23. Tank DW, Hopfield JJ (1988) Kollektives Rechnen mit neuronenähnlichen Schaltkreisen. Spektrum der Wissenschaft 2:46-54

    Im Gegensatz zu Palm (1988) werden hier neuronale Netzwerke abstrakt und fern der Neurophysiologie abgehandelt, wie es dem aktuellen Sprachgebrauch durchaus entspricht.

24. Turing A (1950) Computing machinery and intelligence. Mind 59.

    Ein damals sehr provokativer Artikel, in dem Turing die Frage “Können Maschinen denken” mittels des “Imitations-Spiels”, jetzt Turing-Test genannt, zu operationalisieren versuchte. Einwände vorhersehend, nummeriert er sie durch und versucht sie schon vorher zu zerpflücken. Meinen Einwand würde er unter “(5) Arguments from Various Disabilities” abgehakt haben.

25. Weizenbaum J (1965) ELIZA – A computer program for the study of natural language communication between man and machine. Communications Association Computing Machinery 9:36-45

    Beschreibung des Programmes “ELIZA”

26. Weizenbaum J (1976, deutsche Ausgabe 1978) Die Macht der Computer und die Ohnmacht der Vernunft. Suhrkamp, Frankfurt.

    Hervorragendes Buch, wendet sich gegen die Überheblichkeit der “künstlichen Intelligenzia”, vom Autor von ELISA

27. Weizenbaum J (1990) Absurde Pläne (Künstliche Intelligenz) ZEIT-Magazin 12:38-41

    Antwort auf Moravec (1990)

28. Winograd T (1972) Understanding natural language. Academic Press, New York.

    Beschreibung der Erfahrungen mit SHRDLU

29. Winograd T (1984) Software für Sprachverarbeitung. Spektrum der Wissemschaft 11:88-102 (auch im Sonderheft SOFTWARE).

    Sehr schöne Beschreibung der Schwierigkeiten der maschinellen Übersetzung vom Autor der “Blockwelt” (SHRDLU).

30. Zimmer DE (1990) Im Dickicht der Wörter (Sprache und Computer) ZEIT-Magazin 12:80-89

    Zimmer ist ein hervorragender & kenntnisreicher Wissenschaftsredakteur mit verständlicher Darstellung, ohne zu grobe Vereinfachungen.