Why a computer will never be truly conscious

Subhash Kak, Oklahoma State University

Many advanced artificial intelligence projects say they are working toward building a conscious machine, based on the idea that brain functions merely encode and process multisensory information. The assumption goes, then, that once brain functions are properly understood, it should be possible to program them into a computer. Microsoft recently announced that it would spend US$1 billion on a project to do just that.

So far, though, attempts to build supercomputer brains have not even come close. A multi-billion-dollar European project that began in 2013 is now largely understood to have failed. That effort has shifted to look more like a similar but less ambitious project in the U.S., developing new software tools for researchers to study brain data, rather than simulating a brain.

Some researchers continue to insist that simulating neuroscience with computers is the way to go. Others, like me, view these efforts as doomed to failure because we do not believe consciousness is computable. Our basic argument is that brains integrate and compress multiple components of an experience, including sight and smell – which simply can’t be handled in the way today’s computers sense, process and store data.

 

Brains don’t operate like computers

Living organisms store experiences in their brains by adapting neural connections in an active process between the subject and the environment. By contrast, a computer records data in short-term and long-term memory blocks. That difference means the brain’s information handling must also be different from how computers work.

The mind actively explores the environment to find elements that guide the performance of one action or another. Perception is not directly related to the sensory data: A person can identify a table from many different angles, without having to consciously interpret the data and then ask its memory if that pattern could be created by alternate views of an item identified some time earlier.

 

Another perspective on this is that the most mundane memory tasks are associated with multiple areas of the brain – some of which are quite large. Skill learning and expertise involve reorganization and physical changes, such as changing the strengths of connections between neurons. Those transformations cannot be replicated fully in a computer with a fixed architecture.

Computation and awareness

In my own recent work, I’ve highlighted some additional reasons that consciousness is not computable.
A conscious person is aware of what they’re thinking, and has the ability to stop thinking about one thing and start thinking about another – no matter where they were in the initial train of thought. But that’s impossible for a computer to do. More than 80 years ago, pioneering British computer scientist Alan Turing showed that there was no way ever to prove that any particular computer program could stop on its own – and yet that ability is central to consciousness.

His argument is based on a trick of logic in which he creates an inherent contradiction: Imagine there were a general process that could determine whether any program it analyzed would stop. The output of that process would be either “yes, it will stop” or “no, it won’t stop.” That’s pretty straightforward. But then Turing imagined that a crafty engineer wrote a program that included the stop-checking process, with one crucial element: an instruction to keep the program running if the stop-checker’s answer was “yes, it will stop.”

Running the stop-checking process on this new program would necessarily make the stop-checker wrong: If it determined that the program would stop, the program’s instructions would tell it not to stop. On the other hand, if the stop-checker determined that the program would not stop, the program’s instructions would halt everything immediately. That makes no sense – and the nonsense gave Turing his conclusion, that there can be no way to analyze a program and be entirely absolutely certain that it can stop. So it’s impossible to be certain that any computer can emulate a system that can definitely stop its train of thought and change to another line of thinking – yet certainty about that capability is an inherent part of being conscious.

Even before Turing’s work, German quantum physicist Werner Heisenberg showed that there was a distinct difference in the nature of the physical event and an observer’s conscious knowledge of it. This was interpreted by Austrian physicist Erwin Schrödinger to mean that consciousness cannot come from a physical process, like a computer’s, that reduces all operations to basic logic arguments.

These ideas are confirmed by medical research findings that there are no unique structures in the brain that exclusively handle consciousness. Rather, functional MRI imaging shows that different cognitive tasks happen in different areas of the brain. This has led neuroscientist Semir Zeki to conclude that “consciousness is not a unity, and that there are instead many consciousnesses that are distributed in time and space.” That type of limitless brain capacity isn’t the sort of challenge a finite computer can ever handle.

[ Like what you’ve read? Want more? Sign up for The Conversation’s daily newsletter. ]

Subhash Kak, Regents Professor of Electrical and Computer Engineering, Oklahoma State University

This article is republished from The Conversation under a Creative Commons license. Read the original article.

 

 

Übersetzt: Deshalb werden Computer nie wirklich denken …

 

Was ein Gehirn zum Ticken bringt, ist ganz anders als die Funktionsweise von Computern.
Yurchanka Siarhei/Shutterstock.com

 

Subhash Kak, Oklahoma State Universität

 

Viele fortgeschrittene Projekte der künstlichen Intelligenz deuten an, dass sie auf den Aufbau einer bewussten Maschine hinarbeiten, die auf der Idee basiert, dass Gehirnfunktionen lediglich multisensorische Informationen kodieren und verarbeiten. Die Annahme ist also, dass es möglich sein sollte, die Gehirnfunktionen, sobald sie richtig verstanden sind, in einen Computer zu programmieren.

Microsoft hat kürzlich angekündigt, dass es 1 Milliarde US-Dollar für ein Projekt ausgeben wird, um genau das zu tun. Bisher sind die Versuche, Supercomputer-Hirne zu bauen, jedoch noch nicht einmal annähernd gelungen.

Ein europäisches Projekt mit einem Volumen von mehreren Milliarden Dollar, das 2013 begann, gilt heute als weitgehend gescheitert. Diese Bemühungen haben sich verschoben,  wie ein ähnliches, aber weniger ehrgeiziges Projekt in den USA zeigt, bei dem es lediglich noch darum geht, neue Softwarewerkzeuge für Forscher zu entwickeln, um Hirndaten studieren zu lernen, anstatt ein Gehirn zu simulieren.

Einige Forscher bestehen weiterhin darauf, dass die Simulation der Neurowissenschaften mit Computern der richtige Weg ist. Andere, wie ich, betrachten diese Bemühungen als zum Scheitern verurteilt, weil wir nicht glauben, dass das Bewusstsein berechenbar ist. Unser Grundargument ist, dass Gehirne mehrere Komponenten eines Erlebnisses integrieren und komprimieren, einschließlich Sehkraft und Geruch – die einfach nicht so behandelt werden können, wie die heutigen Computer Daten erfassen, verarbeiten und speichern.

Gehirne funktionieren nicht wie Computer.

Lebende Organismen speichern Erfahrungen in ihrem Gehirn, indem sie neuronale Verbindungen in einem aktiven Prozess zwischen dem Subjekt und der Umwelt anpassen. Im Gegensatz dazu zeichnet ein Computer Daten in Kurz- und Langzeitspeicherblöcken auf. Dieser Unterschied bedeutet, dass sich der Umgang mit Informationen im Gehirn auch von der Funktionsweise von Computern unterscheiden muss.

Unser Verstand erkundet aktiv die Umgebung, um Elemente zu finden, die die Leistung der einen oder anderen Aktivität leiten. Die Wahrnehmung steht in keinem direkten Zusammenhang mit den sensorischen Daten: Eine Person kann eine Tabelle aus vielen verschiedenen Blickwinkeln identifizieren, ohne die Daten bewusst interpretieren zu müssen, und dann ihren Speicher fragen, ob dieses Muster durch alternative Ansichten eines schon einige Zeit zuvor identifizierten Objekts erzeugt werden kann.

 

Könntest du das alles sofort als Tabelle identifizieren? Ein Computer hätte wahrscheinlich echte Probleme.
L bis R: pashminu/Pixabay; FDR Präsidentenbibliothek/Flickr; David Mellis/Flickr, CC BY

 

Eine weitere Perspektive ist, dass die alltäglichsten Gedächtnis-Aufgaben mit mehreren Sektoren des Gehirns verbunden sind – von denen einige recht groß sind. Das Erlernen von Fähigkeiten und Fachwissen beinhaltet Reorganisation und körperliche Veränderungen, wie z.B. die Veränderung der Stärke von Verbindungen zwischen Neuronen. Diese Transformationen können in einem Computer mit einer festen Architektur nicht vollständig repliziert werden.

 

Berechnung und Bewusstseinsbildung

In meiner eigenen jüngsten Arbeit habe ich einige zusätzliche Gründe hervorgehoben, warum das Bewusstsein nicht berechenbar ist.

Eine bewusste Person ist sich dessen bewusst, was sie denkt, und hat die Fähigkeit, aufzuhören, über eine Sache nachzudenken und über eine andere nachzudenken – egal, wo sie im ersten Gedankengang war. Aber das ist für einen Computer unmöglich. Vor mehr als 80 Jahren zeigte der britische Informatiker Alan Turing, dass es keine Möglichkeit gibt, zu beweisen, dass ein bestimmtes Computerprogramm von selbst stoppen kann – und doch ist diese Fähigkeit von zentraler Bedeutung für das Bewusstsein.

Sein Argument basiert auf einem Trick der Logik, bei dem er einen inhärenten Widerspruch erzeugt: Stellen Sie sich vor, es gäbe einen allgemeinen Prozess, der bestimmen könnte, ob ein von ihm analysiertes Programm stoppen würde. Die Ausgabe dieses Prozesses wäre entweder „ja, es wird aufhören“ oder „nein, es wird nicht aufhören“. Das ist ziemlich einfach. Aber dann stellte sich Turing vor, dass ein gewiefter Ingenieur ein Programm schrieb, das den Stop-Check-Prozess beinhaltete, mit einem entscheidenden Element: einer Anweisung, das Programm am Laufen zu halten, wenn die Antwort des Stop-Checks „ja, es wird aufhören“ war.

Die Ausführung des Stop-Check-Prozesses mit diesem neuen Programm würde den Stop-Checker zwangsläufig falsch machen: Wenn er feststellte, dass das Programm stoppen würde, würden die Anweisungen des Programms ihm sagen, dass es nicht anhalten soll. Andererseits, wenn der Stop-Checker feststellte, dass das Programm nicht stoppen würde, würden die Anweisungen des Programms alles sofort stoppen. Das macht keinen Sinn – und der Unsinn gab Turing seine Schlussfolgerung, dass es keine Möglichkeit geben kann, ein Programm zu analysieren und absolut sicher zu sein, dass es stoppen kann. Es ist also unmöglich, sicher zu sein, dass ein Computer ein System nachahmen kann, das seinen Gedankengang definitiv stoppen und zu einer anderen Denkweise wechseln kann – aber die Gewissheit über diese Fähigkeit ist ein fester Bestandteil des Bewusstseins.

Schon vor Turing zeigte der deutsche Quantenphysiker Werner Heisenberg, dass es einen deutlichen Unterschied in der Art des physikalischen Ereignisses und dem bewussten Wissen eines Beobachters darüber gibt. Der österreichische Physiker Erwin Schrödinger interpretierte dies so, dass das Bewusstsein nicht von einem physikalischen Prozess wie dem eines Computers ausgehen kann, der alle Operationen auf grundlegende logische Argumente reduziert.

Diese Ideen werden durch medizinische Forschungsergebnisse bestätigt, dass es keine spezifischen Strukturen im Gehirn gibt, die ausschließlich mit dem Bewusstsein operieren. Vielmehr zeigt die funktionelle MRT, dass in verschiedenen Bereichen des Gehirns unterschiedliche kognitive Aufgaben auftreten. Dies hat den Neurowissenschaftler Semir Zeki zu dem Schluss geführt, dass „Bewusstsein keine Einheit ist, sondern dass es viele Bewusstseine gibt, die in Zeit und Raum verteilt sind“. Diese Art von grenzenloser Gehirnkapazität nicht zu den Herausforderungen, die ein endlicher Computer jemals bewältigen kann.

Subhash Kak, Regents Professor of Electrical and Computer Engineering, Oklahoma State University, USA.