Wir freuen uns über jede Rückmeldung. Ihre Botschaft geht nur an das Administrator Team. Danke fürs Mitmachen, das zur Verbesserung des Systems oder der Inhalte beitragen kann. Ihre Nachricht (optional mit Ihrer E-Mail):
unbekannter Gast

Können Computer intelligent werden? Was ist Künstliche Intelligenz?#

von H. Maurer, Oktober 2018

1. Einleitung#

In diesem Beitrag sollen einige Aspekte dieser alten Frage aus heutiger Sicht beleuchtet werden.

Dass Computer immer mehr Aufgaben so gut wie oder besser als Menschen ausführen ist offenbar. Wie weit kann dieser Prozess gehen? Können Computer so intelligent wie Menschen werden, oder sogar intelligenter? Können sie dann die Menschheit vielleicht sogar beherrschen oder „unnötig“ machen? Aber auch ohne solche extreme Vorstellungen, was erwartet uns mit großer Sicherheit? Wie wird sich die Automation auf die Arbeitswelt und Verfügbarkeit von Arbeit auswirken? Was steckt hinter „künstlicher Intelligenz“ „Big Data Analysis“ und „Machine Learning“? Kann es stimmen [26], dass es immer mehr Computer sein werden, die in Wirklichkeit fast alle Entscheidungen treffen?

2. Was ist Intelligenz?#

Offenbar sollte man keinen Beitrag über „intelligent“ schreiben ohne zu definieren, was man eigentlich mit Intelligenz meint --- nur scheint dies unmöglich zu sein.

Typische Definitionsversuche wie „Intelligenz ist die Fähigkeit, abstrakt und vernünftig zu denken und daraus zweckvolles Handeln abzuleiten“ sind so schwammig, dass sie nicht weiterhelfen. Noch klarer wird die Problematik durch eine Aussage wie „Intelligenz ist ein Sammelbegriff für die kognitive Leistungsfähigkeit des Menschen. Da einzelne kognitive Fähigkeiten unterschiedlich stark ausgeprägt sein können und keine Einigkeit besteht, wie diese zu bestimmen und zu unterscheiden sind, gibt es keine allgemeingültige Definition der Intelligenz.“

Insgesamt gibt es (daher) in der Intelligenzforschung viele Modelle, aber keine allgemeingültige Definition von Intelligenz. Aus diesem Grund versucht man gar nicht mehr, den Begriff zu definieren, sondern den Grad der Intelligenz zu messen.

Am bekanntesten ist wohl der Intelligenzquotient (IQ). Er geht zurück auf den 1905 von A. Binet vorgeschlagen Begriff des Intelligenzalters, der die typische intellektuelle Leistungsfähigkeit in einem bestimmten Alter angibt, wie man sie mit geeigneten Tests zu messen versucht. W. Stern schlug 1912 vor, dieses Intelligenzalter durch das Lebensalter zu dividieren um eine Zahl, den Intelligenzquotienten, zu erhalten. Da bei jungen Menschen Intelligenzalter und Lebensalter etwa gleich schnell wachsen bleibt der IQ bei jungen Menschen über eine längere Zeit unverändert. Da aber das Intelligenzalter mit wachsendem Alter schwächer wächst als das Lebensalter, sinkt der IQ . Um dies zu vermeiden, versucht man für jede Altersgruppe normierte Test zu verwenden. So ergibt der IQ einen groben Eindruck der geistigen Fähigkeit eines Menschen, der dem Alter entspricht. Obwohl der IQ stark kulturabhängig ist und auch immer wieder Nachadjustierungen notwendig sind wird er juridisch sogar zur Einstufung der Unzurechnungsfähigkeit verwendet!

So fragwürdig der IQ schon bei Menschen ist, versagt er bei Computern völlig: Die „geistigen“ Fähigkeiten eines Computers können einem „neugeborenen“ Computer in Minutenschnelle weitergegen werden, d.h. selbst wenn diese sehr bescheiden sind wird der Quotient wegen des kurzen Lebensalters den IQ jedes Menschen um ein Vielfaches übertreffen.

Für Computer realistischer ist der von A. M. Turing 1950 vorgeschlagene Turing-Test: Dabei ist eine Versuchsperson über eine Datenleitung mit einem Menschen und einem Computer verbunden und muss herausfinden, welche der schriftsprachlichen Reaktionen auf Fragen vom Computer und welche von dem menschlichen Kommunikationspartner stammen.

Nach Turing hat ein Programm den Test bestanden, wenn mindestens 30% der Versuchspersonen die Zuordnung nicht korrekt vornehmen können.

Obwohl auch dieser Test Schwächen hat, auf die in der Kürze dieses Beitrags nicht eingegangen werden kann, ist er doch ein noch immer akzeptiertes Verfahren um zu überprüfen, ob ein Computer so intelligent ist wie ein Mensch. Kein Computer hat bisher den Turing-Test systematisch (d.h. mit vielen verschiedenen Testpersonen) bestanden. Freilich, engt man den Turing-Test auf Faktenwissen ein, dann gibt es Computer(programme) die ihn bestehen: IBM’s Watson hat ja bekanntlich z.B. den schwierigen Jeopardy Quiz gewonnen [1].

Dies zeigt auch gleichzeitig, wie groß die Fortschritte bei der „schwachen KI“ (Künstlichen Intelligenz) sind.

Einer der schärfsten Kritiker des Turing Tests ist der amerikanische Philosoph John Searle [2] der mit seinem „Chinesischen Zimmer“ eine Analogie aufzeigt, die - was Wissen anbelangt - dem Turing-Test entspricht, aber offenbar rein programmtechnisch implementierbar ist. Damit wird klar, dass der Turing-Test nur dann Intelligenz misst, wenn er mehr verlangt als reinen Wissensabruf.

3. Künstliche Intelligenz#

Die künstliche Intelligenz, Abkürzung KI, ist ein interdisziplinärer Zweig der Informatik, der sich mit der Nachbildung formalisierbarer Aspekte des menschlichen Denkens und Erkennens befasst, sowie mit deren Nutzbarmachung für Problemlösungen, die Intelligenzleistungen voraussetzen.

Die ursprüngliche, stark philosophisch geprägte Ausrichtung der KI »denkende« Computer zu erschaffen, die anhand ihrer Äußerungen nicht von menschlichen Denkern zu unterscheiden sind wird als „starke KI“ bezeichnet, der pragmatisch orientierte Zweig als „schwache KI“.

Gemessen an ihren eigenen Ansprüchen, muss die starke KI aus heutiger Sicht als gescheitert betrachtet werden. Dagegen hat die schwache KI immer mehr den Charakter einer Ingenieurwissenschaft angenommen und Erfolge in vielen Anwendungsbereichen vorzuweisen.

Diese schwache KI konzentrierte sich anfänglich auf die hohe Geschwindigkeit von Computern um Berechnungen durchzuführen, ob das nun ging um Raumfahrt, um (Bestrahlungs)medizin, um das Auffinden von Daten in strukturierten Datenbanken usw. Zunehmend werden aber Methoden des Maschinellen Lernens und der Big Data Analysis (Bereiche die sich durchaus überschneiden) verwendet: In beiden Fällen werden aus vielen Beispielen bzw. großen Datenmengen Zusammenhänge auch in unstrukturierten Informationen erkannt.

Beim Maschinellen Lernen spielt die Nachbildung von neuronalen Netzen (deep learning) eine besondere Rolle, wo an Hand von Beispielen (überwacht oder autonom) Lösungswege entstehen, die sinnvoll auf neue Situationen angewendet werden können und z.B. Vorhersagen mit guten Erfolgschancen erlauben.

Zum weiten Spektrum möglicher Anwendungen gehören hier: automatisierte Diagnoseverfahren, Erkennung von Kreditkartenbetrug, Aktienmarktanalysen, Klassifikation von komplexen Mustern, Sprach- und Texterkennung, autonome Systeme, das Filtern von E-Mails, oder wichtige Aspekte der Computer Vision, wie Muster- und Bilderkennung.

Bei der Big Data Analyse liegt der Schwerpunkt auf dem Auffinden von Korrelationen zwischen Daten. Die Anwendungsgebiete sind auch hier nicht in Kürze darstellbar: Es reicht von der Erkennung einer (seltenen) Krankheit auf Grund von Symptomen und mögliche Behandlungsmethoden bis zur Wettervorhersage, wo man fallweise von Rechenverfahren abgeht und dazu übergeht, die Messwerte an vielen Punkten zu vergleichen und bei Übereinstimmung mit den gegenwärtigen, die Vorhersage dem aufzubauen, was seinerzeit nach sehr ähnlichen Messwerten geschah.

Big Data Analyse hat vielen Anwendungen, ist aber auch mit Vorsicht einzusetzen: Es werden fallweise Korrelationen entdeckt, die nicht kausal zusammenhängen[3]. Ein typisches Beispiel ist etwa, dass bei der Analyse von Piratenüberfällen im Südpazifik auf Touristenjachten eine starke Korrelation mit „Sauberem Meerwasser“ festgestellt wurde. Der Schluss ist also: Sauberes Meerwasser ist günstig für Piraten.

In Wahrheit ist das aber eine indirekte Kausalität. In Wirklichkeit gibt es sauberes Wasser nur entfernt von großen Städten und entfernt von stark befahrenen und daher gut überwachten Gegenden.

Piratenüberfälle haben also nichts mit der Qualität des Wassers zu tun, sondern damit, wie weit eine Gegend durch Militär oder Polizei überwacht wird.

4. Auswirkungen der künstlichen Intelligenz#

Anders formuliert: Wo werden uns (die Gesellschaft und die Wirtschaft) die Digitalisierung, das Internet, die Automatisierung, die Computer, am meisten beeinflussen?

Man könnte hier einen eigenen Beitrag schreiben wie uns das Internet potentiell verdummt[4], [5] , wie „Social Media“ und „Fake News“ immer mehr unsere Ansichten verfälschen, usw. aber ich stelle nur eine kurze Liste einiger Aktivitäten zusammen, die die Wirtschaft dramatisch ändern werden:

  • Der Bankensektor wird sich grundlegend ändern: Vieles wird elektronisch ohne Arbeitskräfte erfolgen
  • Ähnliches gilt für viele Vorgänge im administrativen und Verwaltungsbereich, die immer mehr elektronisch abgewickelt werden
  • Dass 52% aller Büroaufgaben schon 2025 automatisiert erfolgen werden[6] klingt fast konservativ
  • Autonome Fahrzeuge werden nicht nur die Lenker von Bussen, U-Bahnen, Eisenbahnen usw. überflüssig machen, sondern die gesamte Automobilbranche wird einen tiefen Einbruch erfahren, weil der BESITZ von Autos zu Ende gehen wird, d.h. die Produktion von PKW auf weniger als 5% schrumpfen wird[7] .
  • Es ist klar, dass der Verkauf von Waren sich mehr und mehr ins Internet verlagert (Amazon!)
  • Kinos, TV Sender, Radios wandern zunehmend ins Internet ab
  • Die Produktion auch komplexer Geräte (vom Auto zum Haushaltsgerät, vom Computer zur Digitalkamera) wird kaum mehr menschliche Arbeitskraft benötigen. Es ist bezeichnend, dass man selbst in der Landwirtschaft davon ausgeht, dass durch die Automation[8] ein Mensch die Nahrungsmittel für hundert[9] Menschen erzeugen wird
  • Roboter werden zu echten Assistenten und Freunden (!) für Menschen, bis hin zur Hilfe für Alternde oder Behinderte
  • Drohnen stellen uns vor ganz neue Gefahren[10] und neue Möglichkeiten[11]
  • Es ist erschreckend, dass Computer immer mehr wichtige Entscheidungen übernehmen werden, sei es in der Diagnostik oder Behandlung in der Medizin, sei es bei politischen Entscheidungen, bei der Entwicklung von Strategien für die Wirtschaft, bei kriegerischen Auseinandersetzungen, usw. Dies wird in dem Buch [26] besonders deutlich gemacht: Schon heute treffen Politiker oder CEOs großer Firmen zwar wie es scheint die Entscheidungen, die aber letztendlich auf Vorschlägen von Computern, die riesige Datenmengen analysiert haben, aufbauen. De facto werden Menschen immer mehr nach den Vorschlägen von Computern handeln.
  • Die Analyse von großen Mengen von Daten eines Menschen oder einer Menschengruppe werden immer mehr dazu führen, dass Computer über Einzelmenschen oder Menschengruppen viel mehr wissen, als das je einem Menschen möglich wäre. Dadurch werden sie immer stärker in Entscheidungen eingreifen, und ohne dass das explizit so bewusst wird eine immer stärkere werdende Steuerung von Menschen und Menschheit übernehmen.

Diese Liste ist lange fortsetzbar.

Hier nun eine ganz andere Sicht:

5. Droht uns durch die Automatisierung eine Welle von Arbeitslosigkeit?#

Es ist klar, dass viele Aufgaben von Menschen auf Maschinen übergehen werden. Als Beruhigungsspille wird meist die Aussage verabreicht, dass auch viele neue Jobs durch die neuen Technologien entstehen werden. Dies ist zwar richtig, aber es wird wohlweislich verschwiegen, dass die Notwendigkeit für menschliche Arbeit dennoch dramatisch abnehmen wird.

Nur, wenn man es richtig sieht, ist das aus verschiedenen Gründen keinesfalls bedrohlich.

Z.B. ist die durchschnittliche Arbeitszeit pro Mensch in den letzten 100 Jahren stetig gefallen ist. Mein Großvater arbeitete noch 3.200 h pro Jahr. Die durchschnittliche Arbeitszeit eines Arbeiters oder Angestellten ist 2018 schon auf 1.600 h pro Jahr gesunken. Man geht kaum fehl in der Annahme, dass in weiteren 50 - 80 Jahren diese Zahl auf nahe 1.000 h / pro Jahr sinken wird, beispielsweise auf 7 Wochen Urlaub und 45 Wochen zu 22 Arbeitsstunden.

Die Annahme, dass Arbeit, das Lösen von Aufgaben, die Beschäftigung mit interesssanten Vorgängen oder Anstrengungen notwendig sind um glücklich zu sein ist wohl richtig, aber es muss sich dabei nicht um Erwerbsarbeit handeln, sondern es können auch andere befriedigende Tätigkeiten sein: vom Wandern, zum Pflanzen von Blumen, von der Beschäftigung mit Kunst bis zur amüsanten oder spannenden Unterhaltung mit Spielen, Fernsehen, aktiver oder passiver Teilnahme an Sportveranstaltungen, usw.

Es wird notwendig sein, Erwerbsarbeit und Arbeit zu trennen, wodurch sich auch die Frage eines erwerbsarbeitslosen Grundeinkommens immer wieder aufdrängt.

Wenn es sich unsere österreichische Gesellschaft leisten kann ca. 3,2 Millionen[12] nicht produktive Haustiere zu halten, dann kann wohl auch die Versorgung von selbst hunderttausenden nicht produktiven Menschen kein Problem sein.

Es geht hier also nicht um ein finanzielles Problem, sondern eher um ein psychologisches: Der Selbstwert erwerbsloser Menschen muss erhalten bleiben. Dieses Thema würde einen eigenen Beitrag erfordern, aber um nicht missverstanden zu werden: Ich bin nicht unbedingt für ein „arbeitsloses Grundeinkommen für jeden“ sondern eher für Leistungen, die allen, die sie benötigen in einem vernünftigen Ausmaß zur Verfügung stehen und umgekehrt Aufgaben geschaffen werden, für die man sich auch ehrenamtlich begeistern kann. Eine Alternative zu dem erwerbslosen Grundeinkommen ist bis zu einem gewissen Grad in der Schweiz das Bürgerrecht seit hunderten Jahren. Ähnlich plädiere ich seit 40 Jahren für einen großen „freien Korb“[13].

Am wichtigsten halte ich aber eine Änderung der Ausbildung.

Schon im frühen Schulalter sollte man feststellen, wofür sich ein Kind besonders eignet und interessiert:

  • Ist es besonders geschickt mit den Händen? Dann sollte es in Richtung Handwerk und Reparatur von Geräten unterstützt werden (und damit unserer Wegwerfmentalität und einer übertriebenen Globalisierung entgegen wirken).
  • Ist das Kind besonders kommunikativ und an anderen Menschen interessiert? Dann sollte es Richtung soziale Berufe (vom Kindergärtner bis zur Altenbetreuung oder Medizin) gefördert werden.
  • Ist das Kind ein intellektueller Tüftler, dann ist eine solide Ausbildung und ein Hochschulstudium anzustreben.

Ohne diese Dreiteilung werden wir ein Heer arbeitsloser Akademiker ausbilden: Wir sind leider viel zu sehr am Weg in diese Richtung.

6. Die Computer übernehmen vieles --- auch die Weltherrschaft?#

Die Entwicklung der Informatik zeigt, dass Computer mehr und mehr Aktivitäten übernehmen werden, die heute von Menschen ausgeführt werden.

Kann es sein, dass sie alles bis vielleicht auf kleine Nischen, die wir alle stark mit Kunst und Kreativität verbinden, für die Menschen erledigen werden? Wenn dann die Menschen „unnötig“ werden, werden sie von den Computern noch geduldet werden, bzw. werden die Computer die Herrschaft über die Welt und weitere Entwicklungen übernehmen?

Die Meinungen dazu gehen weit auseinander. Manche Forscher und erfolgreiche Unternehmer (wie M. Minsky, H.A. Simon. H. Moravec, R. Kurzweil, E. Musk und viele mehr) warnen eindringlich vor diesem Szenario, andere (J. Searle, H. Dreyfus, M. Boden, u.a.) sehen es (mindestens für die absehbare Zukunft) als absurd an.

Es gibt einen gewissen Konsens, dass Computer gefährlich werden könnten, wenn sie ein eigenes Bewusstsein entwickeln. Da wir aber bis heute nicht wissen wie (menschliches) Bewusstsein entsteht reduziert sich die Frage darauf, ob ein Bewusstsein automatisch bei komplexen Prozessen in (organischen oder nicht organischen) neuronalen Netzwerken entsteht, oder ob das Bewusstsein nicht so materialistisch zu erklären ist.

Es sei hier ausnahmsweise auf einen sehr umfangreichen Beitrag in der Wikipedia[14] verwiesen, der die meisten Aspekte von allen Seiten beleuchtet.

Es ist bezeichnend, dass so bekannte Personen wie Elon Musk ausdrücklich vor KI warnen, das renommierte deutsche Zukunftsinstitut[15] aber zur Weltherrschaft der Computer nur lakonisch schreibt: „Ein Kinderglaube, der nicht totzukriegen ist.“

Persönlich halte ich es für notwendig, den zunehmenden Einfluss von Computern genau zu verfolgen. Ich sehe die Gefahr von überragend guten Computern nicht darin, dass sie die Weltherrschaft übernehmen, aber sehr wohl darin, dass Computer alle wichtigen Entscheidungen treffen, die dann von Menschen ausgeführt werden, oder dass eine Gruppe von Menschen solche Computer benutzen könnte um ein Land oder die ganze Welt zu beherrschen.

Eine sorgfältigere Besprechung als in diesem kurzen Beitrag findet sich u.a. in Schinagl[16], der auch darauf aufmerksam macht, wie wichtig große Übertragungsgeschwindigkeiten von Daten und sehr kleine anfallende Latenzzeiten sind, bzw. in Harari[26] der vor allem die Abhängigkeit der Menschen von der Analyse großer Datenmengen durch Computer fast für unausweichlich hält.

7. Die Hybris der Informatiker#

Die obige Darstellung belegt wohl genügend, wie stark KI und Informatik unser Leben beeinflusst haben und noch weiter verändern werden. Dennoch muss davor gewarnt werden, zu glauben, dass es in erster Linie die Computer sind, die über die Welt und unser Wohlergehen entscheiden werden.

Es gibt große andere Bereiche, die eine ebenso gewichtige Rolle spielen werden, und die die Informatiker in ihrer Konzentration auf nur ein Thema nicht beachten. Ich beschränke mich auf einige Beispiele.

Im Jahr 1900 lebten auf der Welt 1 Milliarde Menschen. 2018 sind es fast 8 Milliarden. Wenn wir hören, dass die Autos oder Kraftwerke unsere Welt zerstören ist das ein typischer nicht kausaler Zusammenhang. Es ist die Verachtfachung der Anzahl der Menschen, die fast alle Probleme auslöst, nicht Autos per se, nicht kalorische Kraftwerke, die wir bei 1 Milliarde gar nicht benötigen würden. Im Jahre 2050 werden auf der Welt fast 9 Milliarden Menschen leben, im armen Land Nigerien 440 Millionen, mehr als heute in ganz Europa.

Studien zeigen, dass das Raumschiff Erde langfristig nur maximal 1 Milliarde Menschen lebenswürdig unterstützen kann. Wir rasen daher auf einen globalen Kollaps zu, nicht wegen der Herrschaft der Computer sondern wegen der Überbevölkerung[17] , die wir in den Griff kriegen müssen, aber kaum darüber reden, geschweige denn etwas dagegen unternehmen.

Im Buch „Homo Deus“ schreibt Harari[18] über die mögliche Unsterblichkeit des Menschen, die mit den neuen Methoden der Gentechnologie erreicht werden könnte (Stichwort Genschere[19]), eine Technologie die Nahrungsmittelengpässe vermeiden könnte aber auch Designermenschen möglich macht und ja schon heute durch den Anstieg des durchschnittlichen Lebensalters das Problem der Überbevölkerung wohl weiter verschärfen wird.

Ist die gegenwärtige Erwärmung der Erde ein vorübergehendes Phänomen, oder bewegen wir uns in eine Zeit, in der die Erde eisfrei sein wird (wie sie es über lange Zeiten ihrer Existenz gewesen ist)?

Dann wird es zu einer globalen Wasserknappheit kommen, die vielleicht nur durch ganz neue Filtermaterialien für Meerwasser wie Graphenoxid[20] bewältigt werden könnte.

Wie weit ist ein von Menschen erzeugtes Kohlendioxid für die globale Erwärmung verantwortlich und also ein Feind[21] ? Ohne Kohlendioxid gäbe es kein Leben auf der Erde und die globale Durchschnittstemperatur ohne Treibhauseffekt wäre -15°.

Wird Nuklearenergie den steigenden Energiebedarf decken[22] oder uns durch einen Atomkrieg vernichten?

Ich kehre noch einmal kurz zur Informatik zurück um auf eine Gruppe von Gefahren einzugehen, die durch den Einsatz von Computern auftreten: Erstens, wenn wir viel Wissen und Denkarbeit in das Internet oder Computer verlagern, werden wir dadurch Kreativität[23] verlieren oder verdummen[24] ? Zweitens, da sich Software, Formate, Computer dauernd verändern besteht die große Gefahr, dass wir Informationen, die wir heute speichern eines Tages nicht mehr lesen können, wie ein persönlich erlebtes Beispiel[25] klar belegt. Drittens, wie stark werden Datenanalyse und Medien uns steuern und beeinflussen, auch wenn uns das gar nicht bewusst wird?

Literatur#

[1] https://www.techrepublic.com/article/ibm-watson-the-inside-story-of-how-the-jeopardy-winning-supercomputer-was-born-and-what-it-wants-to-do-next
[2] Searle, J.R.: Minds, brains and programs. The Behavioural and Brain Sciences 3 (1980), 417 ff.
[3] C.S. Calude & Giuseppe Longo: The Deluge of Spurious Correlations in Big Data. Foundations of Science, vol. 21, no. 1 (2016),
[4] Überwacht, verroht, bedroht und verdummt uns das Internet? Informatik Spektrum vol. 36, no. 6 (2013), 536-547 (published online: Nov. 6, 2013, DOI 10.1007/s00287-013-0739-3, ISSN 0170-6012)
[5] How dangerous is the Web for Creative Work? (mit P. Korica-Pehserl, R. Mehmood), CIT vol 21,no. 2 (2013), 59-69.
[6] Economics Forum Study. Time Magazine, vol. 192, no. 13 (2018), p.5
[7] Wissenssammlungen/Essays/Mobility/Skizze_für_neuen_Personenverkehr
[8] AEIOU/Landmaschinen
[9] AEIOU/Automatisierung_in_der_Landwirtschaft
[10] web-books/xperten10de2006iicm
[11] W. Schinagl: Robocopter; In: Satellite Based Earth Observation, Springer 2018, pp. 69 ff
[12] https://de.statista.com/themen/2913/haustiere-in-oesterreich
[13] web-books/xperten00de2004iicm/000016
[14] https://de.wikipedia.org/wiki/Künstliche_Intelligenz
[15] https://www.zukunftsinstitut.de/artikel/werden-maschinen-bald-die-weltherrschaft-uebernehmen
[16] web-books/kuenstlicheaiI00de2018isds
[17] Community/Provokantes_und_Interessantes/Die_Bevölkerungsbombe
[18] Y. N. Harari: Homo Deus, Verlag C.H. Beck (2018)
[19] Wissenssammlungen/Essays/Naturwissenschaften/Potenzial_der_Genschere
[20] AEIOU/Graphen
[21] Wissenssammlungen/Essays/Ökologie/Kohlenstoffdioxid-_Feind_oder_Freund
[22] AEIOU/Energie
[23] Wissenssammlungen/Essays/Bildung/Gefährdet_das_Internet_unsere_Kreativität
[24] Wissenssammlungen/Essays/Kulturwandel_durch_Technik/Das_Internet_-_Ein_kritischer_Spaziergang
[25] Wissenssammlungen/Essays/Medien/Zur_Stabilität_digitaler_Informationen
[26] Y. N. Harari: 21 Lessons for the 21st Century, Jonathan Cape, London, 2018