«الدماغ لا يُفكّر!»

في عبارة «الذكاء الإصطناعي»،  كلمة «ذكاء» هي مجرّد تعبير مجازي. ذلك أن الذكاء الإصطناعي، رغم قدرته على الحساب التي تتجاوز قدرة الإنسان، ليس في استطاعته إعطاء مدلول للحسابات التي ينتجها. ويرى الفيلسوف والمحلل النفسي الأرجنتيني ميغال بن الصايغ أن اختصار التركيبة المعقدة للأحياء في مجرد رموز رقمية إنما هو من محض الافتراء، كما تبقى فكرة تعويض الإنسان بالآلة  من باب اللامعقول.

ميغال بن الصايغ يجيب عن أسئلة ريجيس ميران

ما الذي يُميّز الذكاء البشري عن الذكاء الإصطناعي؟

الذكاء الحي ليس آلة حساب، بل هو سيرورة يتَرابط فيها الوجدان والجسد والخطأ، وتفترض وجود الرغبة والوعي لدى الكائن البشري بتاريخه الذاتي على المدى الطويل. لا يمكن تصوّر  الذكاء البشري في عزلة عن بقية المسارات العقلانية والجسدية.

وخلافا للإنسان - أو للحيوان - الذي يُفكّر بواسطة دماغ متمَوقع في جسمه، وهذا الجسم هو بدوره مندرج في محيطه، فإنّ الآلة تُنتج حسابات وتوقّعات دون أن تكون قادرة على تفسير مدلولاتها. وفي الحقيقة، ليس هناك جدوى في التساؤل عن إمكانية تعويض الإنسان بالآلة. فالحيّ هو الذي يخلق المعنى، وليس الحساب. العديد من الباحثين مقتنعون بأن الفرق بين الذكاء الحيّ والذكاء الاصطناعي هو فرق كمّي، في حين أنه فرق نوعي.

يبدو أن حاسوبين من برنامج غوغل براين توصّلا للتخاطب بـ«لغة» من ابتكارهما وهي لغة لا يقدر الإنسان على فهمها. ما رأيك؟

بكل بساطة، هذا الكلام ليس له أي معنى. في الواقع، كلما تم تشغيل هاتين الآلتين، إلا وأعادت نفس التسلسل في تبادل المعلومات. ولا يُمكن البتّة اعتبار ذلك لغة، إذ ليس هناك تحاور بين الآلتين. هذا تعبير مجازي غير صائب، كما لو اعتبرنا أن القفل «يعرف» مفتاحه.

في نفس السياق، يقول البعض إنهم «أصدقاء» مع إنسان آلي. بل إن هناك تطبيقات للهاتف الذكي يُفترض أنها تتيح «التحاور» مع الآلة. لنُشاهد الشريط السينمائي«هار» (هي) للمخرج سبايك جونز (2013): بعد أن تم طرح سلسلة من الأسئلة على شخص قصد رسم خريطة دماغه، تقوم آلة بصياغة صوت وأجوبة تبعث إحساسا عاطفيا عند ذلك الشخص. ولكن، هل يمكن ربط علاقة عاطفية مع إنسان آلي؟ كلّا، لأن الحب والصداقة لا يقتصِران على جملة من الإرساليات العصبية في الدماغ.

الحب والصداقة يتجاوزان الفرد، بل ويتجَاوزان التفاعل بين شخصين. عندما أتكلّم، أشارك في شيء يجمعنا، ألا وهو اللغة. وهو كذلك بالنسبة للحب والصداقة والفكر: هي عمليّات رمزية يُشارك فيها البشر. لا أحد يُفكّر بذاته. الدماغ يُوفر طاقته للمشاركة في التفكير.

إلى الذين يعتقدون بأن الآلة قادرة على التفكير، أقول: من الغريب أن تكون الآلة قادرة على التفكير، بما أن الدماغ ذاته لا يُفكّر!

ما تعيبه على الذكاء الاصطناعي أساسا هو اختزال البعد الحي في مجرد رموز.

فعلا. البعض من المختصين في الذكاء الاصطناعي مُنبهرون بنجاحاتهم التقنية، مثلهم مثل الأطفال الصغار المنبهرين بألعاب التركيب، لدرجة أنهم فقدوا النظرة الشمولية. لقد سقطوا في فخّ الاختزال.

كتب عالم الرياضيات الأمريكي ومُنظّر السبرانية نوربرت فاينر، سنة 1950، في كتابه«ذي هيومن يوز أف هيومن بيينغز» (السبرانية والمجتمع)، أنه سيتسنّى لنا في يوم من الأيام «إرسال إنسان  عبر التلغراف». وبعد أربعة عقود، تم تطوير فكرة مايند أبلودنغ (تحميل العقل) - اعتمادا على نظرية ما بعد الإنسانية - على أساس نفس التوهّم بأنه يمكن اختزال العالم الواقعي بأسره  في وحدات إعلامية قابلة للنقل من آلة (هاردوار) إلى أخرى.

كما نجد نفس هذا الاعتقاد في إمكانية وضع نماذج للكائنات الحيّة في قالب وحدات إعلامية لدى عالم البيولوجيا الفرنسي بيار-هنري غويون - وقد نشرتُ كتابا حواريا معه يحمل عنوان «صناعة الحيّ؟» (2012). يرى غويون أن الحامض النووي هو ركيزة لرمز يمكن نقله إلى ركائز أخرى. ولكن، إذا اعتبرنا أن الكائن الحيّ قابل للوضع في نموذج متكوّن من وحدات إعلامية، فإننا نهمل أن مجموع الوحدات الإعلامية ليس هو الذي يكوّن الشيء الحيّ، ومن ثمّ نهمل الاهتمام بالبحث في ما هو غير قابل للوضع في قالب نماذج.

إن الأخذ بعين الاعتبار كلّ ما هو غير قابل للوضع في قالب نموذج لا يُحيل بالضرورة إلى فكرة الإله، ولا للظلامية، مهما اعتقد البعض. كما أن  مبادئ عدم إمكانية التنبّؤ أو عدم اليقين موجودة في كافة العلوم الصحيحة. لذلك فإن ميول أنصار نظرية ما بعد الإنسانية، إلى المعرفة التامّة، ينصهر في خطاب يقدس التكنولوجيا ويخلو تماما من المنطق. وإن لقيت هذه الفكرة نجاحا كبيرا فلأنّها قادرة على الاستجابة لتعطش الجيل المعاصر للميتافيزيقيا. إن أنصار فكرة ما بعد الإنسانية يتوقون إلى حياة خالية من الشك. لكن، سواء في حياتنا اليومية أو في البحوث، لابدّ أن نتحمّل الشكوك والمُتغيّرات...

حسب نظرية ما بعد الإنسانية، سوف يصبح الإنسان يوما قادرا على الخلود بفضل الذكاء الاصطناعي.

في خضمّ التقلبات التي نعيشها في عصر ما بعد الحداثة، حيث ينعدم التفكير في العلاقة بين الأشياء، وحيث تسود عقلية الاختزال والفردانية، اكتسبت وعود نظرية  ما بعد الإنسانية مكانة مغارة أفلاطون. يعتبر الفيلسوف اليوناني أن الحياة الحقيقية لا تكمن في العالم المادّي وإنما في الأفكار. وبعد أربعة وعشرين قرنا، يرى أنصار نظرية ما بعد الإنسانية أن الحياة الحقيقية ليست في الجسم وإنما في الخوارزميات. فالجسم، بالنسبة لهم، ليس سوى صورة ظاهرية، يجب أن نستخرج منه جملة من المعلومات المفيدة ونتخلّص من عيوبه الطبيعية. هذه طريقتهم في نيل الخلود.

لقد سنحت لي الفرصة، بمناسبة بعض الندوات العلمية، أن ألتقي بالعديد من أعضاء جامعة التفرّد (المنصهرة في نظرية ما بعد الإنسانية) حاملين قلادات تُفيد بأنه في حال وفاتهم، سوف يتم  تجميد رؤوسهم. أرى في ذلك ظهور شكل جديد من الرجعية، في حين أنهم يعتبرون أنني محافظ بيولوجي، لأنني أعارض فلسفة ما بعد من الإنسانية. ولكن، لمّا ينعتني خصومي بالرجعية، ها أنهم يلجأون لنفس أنواع المبررات التي يتذرع بها رجال السياسة عندما يدّعون التحديث والإصلاح، والحال أنهم يهدرون الحقوق الاجتماعية للبلاد وينعتون بالرجعية كل من أراد الحفاظ على هذه الحقوق!

 

لقد أصبح تهجين الإنسان والآلة أمرا واقعا. وهو أيضا غاية في نظرية ما بعد الإنسانية.

ما زالت الطريق طويلة حتى نفهم تماما الحيّ والمهجّن، لأن عالم التقنية البيولوجية يجهل إلى يومنا هذا كل شيء، تقريبا، عن الحياة فهي لا تتلخّص فقط في المسارات الفيزيائية والكيميائية التي يمكن صياغتها في  نماذج. فالحيّ هو حاليا مهجن مع الآلة، وسوف يُصبح دون شك أكثر هجانة مع منتوجات التكنولوجيا الحديثة.

توجد العديد من الآلات التي نستخدمها والتي نُفوّض لها بعض المهامّ. ولكن هل كل هذه الآلات ضروريّة؟ ذلك هو السؤال المطروح بالأساس. اشتغلت على زراعة القوقعة السمعية وثقافة الصمّ: الملايين من فاقدي السمع يُطالبون بثقافة خاصّة بهم - وهي غير محترمة بالقدر الكافي – ويرفضون زراعة القوقعة لأنهم يُخيّرون التعبير بلغة الإشارة. هذا الابتكار، الذي قد يمحق ثقافة فاقدي السمع، هل يُمثّل تقدّما؟ تعسر الإجابة على هذا السؤال.

قبل كل شيء، لا بدّ أن نضمن احترام الحياة في عمليات التهجين. إلا أن ما نشاهده اليوم ليس بالتهجين بقدر ما هو استعمار الآلة للأحياء. ومن فرط الاستعانة بوسائل خارجية، أصبح العديد من الناس لا يتذكّرون شيئا وأصبحوا يُعانون من ضعف الذاكرة، دون أن يكون ذلك مُتأتّيا من أمراض مُتدنّية.

لنأخذ مثال الآلة التي تُحدّد الموقع الجغرافي. لقد قمنا بمتابعة تصرّفات سائقي سيارات الأجرة في باريس وفي لندن، بما في هاتين المدينتين من متاهات. ولاحظنا أن اللندنيين يعتمدون على أنفسهم في اختيار الاتجاهات، في حين أن الباريسيين يستندون دائما إلى تلك الآلة. وبعد ثلاث سنوات، أظهرت اختبارات نفسية أن النواة تحت القشرة الدماغية التي تُحدّد خريطة الزمان والمكان أُصيبت بالضمور عند الباريسيين (ولا شك أن هذا الضمور قد يرتد إذا تخلّى الشخص عن استعمال تلك الآلة). لقد أُصيبوا بنوع من عسر القراءة يمنعهم من تحديد موقعهم في الزمان والمكان. وهذا هو الاستعمار: المنطقة الدماغية أُصيبت بالضمور لأنه تم تفويض وظيفتها الأصلية دون تعويضها بأية وظيفة أخرى.

ما الذي يُقلقك أكثر؟

يقلقني النجاح المفرط لمنطق الابتكار. فكرة التقدّم لم تُحقق أهدافها وقد تمّ تعويضها بفكرة الابتكار التي تختلف عنها تماما: إذ ليس لها نقطة انطلاق ولا نقطة وصول، كما أنها ليست جيّدة ولا سيّئة. لذلك وجب التساؤل حولها بمنظور نقدي. إن معالجة النصوص بواسطة الحاسوب أحسن بكثير من آلة الرقن «أوليفتي» التي كنت أستعملها في السبعينات، لذا أرى في ذلك تقدّما. وعلى العكس، فإن كل هاتف ذكي يحتوي على عشرات التطبيقات، نادرا ما يتساءل الناس كم منها ضروري حقّا. فالحكمة تقتضي أن نأخذ حذرنا من الجاذبية التي تثيرها فينا الرغبة في التسلية أو نجاعة التكنولوجيات الحديثة.

من جانب آخر، في مجتمع فقد صوابه وأضاع قصصه المرجعية الكبرى، يبعث خطاب ما بعد الإنسانية على القلق: فهو يعامل البشر وكأنّهم صبيان ولا ينظر للوعود التكنولوجية بالبعد الكافي. في الغرب، تُحيل التقنية دائما إلى فكرة تجاوز الحدود. فمنذ القرن السابع عشر، لم يستبعد الفيلسوف الفرنسي روني ديكارت، الذي كان يعتبر أن جسد الإنسان بمثابة الآلة، إمكانية وجود فكر خارج الجسم. أن يحلم الإنسان بالتحرر من جسمه ومن حدوده، بفضل العلم، فتلك رغبة بشرية. وتظن نظرية ما بعد الإنسانية أنه من الممكن تحقيق تلك الرغبة أخيرا.

لكن الحلم بإنسان يتعدى نطاق الجسد، كلي السلطة والنفوذ، لا حدود له، يكنّ عواقب شتى على المجتمع. ويبدو لي أنه يتوجّب تحليله في علاقة استشرافية مع صعود الأصولية الدينية المتقوقعة في قيم يُفترض أنها القيم الطبيعية للإنسان. وأعتَبر أن كلاهما ضرب من الأصولية اللاعقلانية، وأنهما قد شنا الحرب على بعضهما.

الصورة: خوردي إيزارن

Miguel Benasayag, interviewed by Régis Meyran

What distinguishes human intelligence from AI?

Living intelligence is not a calculating machine. It is a process that articulates affectivity, corporeality, error. In human beings, it presupposes the presence of desire and an awareness of their own history over the long term. Human intelligence is not conceivable separately from all other cerebral and corporeal processes.

Unlike humans or animals who think with the help of a brain located inside their  bodies – which itself exists in an environment – a machine produces calculations and predictions without being able to give them any meaning. The question of whether a machine can substitute humans is, in fact, absurd. It is living beings that create meaning, not computation. Many AI researchers are convinced that the difference between living intelligence and artificial intelligence is quantitative, whereas it is qualitative.

Two computers in the Google Brain programme could apparently communicate with each other in a “language” that they themselves created and which humans could not decipher. What do you think of this?

That just doesn’t make any sense. In reality, each time these two machines are launched, they systematically repeat the same sequence of information exchange. And this is not a language, it does not communicate. It is a bad metaphor, like the one that says the lock “recognizes” the key.

It’s rather like when some people say they are “friends” with a robot. There are even smartphone applications that supposedly let you “chat” with one. In Spike Jonze’s film, Her (2013), a man is asked a series of questions, which enables his brain to be mapped. A machine then synthesizes a voice and fabricates responses that trigger a feeling of being in love, in the man. But can you really have a romantic relationship with a robot? No, because love and friendship cannot be reduced to a set of neuronal transmissions in the brain.

Love and friendship exist beyond the individual, and even beyond the interaction between two people. When I speak, I am participating in something that we share in common, language. It is the same for love, friendship and thought – these are symbolic processes in which humans participate. Nobody thinks only for themselves. A brain uses its energy to participate in thinking.

To those who believe that a machine can think, we must respond that it would be astonishing if a machine could think, because even the brain does not think!

In your opinion, is reducing a living being to code the principal failing of AI?

Indeed, some AI experts are so dazzled by their own technical achievements – rather like little boys fascinated by their construction games – that they lose sight of the big picture. They fall into the trap of reductionism.

In 1950, the American mathematician and father of cybernetics, Norbert Wiener, wrote in his book, The Human Use of Human Beings, that one day we might be able to “telegraph a man”. Four decades later, the transhumanist idea of  “mind uploading” has been built on the same fantasy – that the whole real world can be reduced to units of information that can be transmitted from one piece of hardware to another.

The idea that living beings can be modelled into units of information is also found in the work of the French biologist Pierre-Henri Gouyon, with whom I have published a book of interviews, Fabriquer le vivant? [Manufacturing the living? 2012]. Gouyon sees deoxyribonucleic acid (DNA) as the platform for a code that can be transferred to other platforms. But when we think that living beings can be modelled into units of information, we forget that the sum of information units is not the living thing, and no one is interested in carrying out research on what cannot be modelled.

Taking into account that which cannot be modelled does not lead us to the idea of God, or obscurantism, whatever some may think. The principles of unpredictability and uncertainty can be found in all the exact sciences. That is why the aspiration of transhumanists for total knowledge is part of a perfectly irrational, technophile discourse. It owes its considerable success to its ability to quench the metaphysical thirst of our contemporaries. Transhumanists dream of a life freed from all uncertainty. Yet in daily life, as in research, we have to contend with uncertainties and randomness.

According to transhumanist theory, we will one day become immortal, thanks to AI.

In our current postmodern turmoil, where we no longer ponder on the relationships between things, where reductionism and individualism dominate, the transhumanist promise takes the place of Plato’s cave. For the Greek philosopher, real life was not to be found in the physical world, but in the world of ideas. For transhumanists, twenty-four centuries later, real life lies not in the body, but in algorithms. For them, the body is just a façade – a set of useful information must be extracted from it, and then we need to get rid of its natural defects. That is how they intend to achieve immortality.

At scientific conferences, I have had the opportunity to meet several members of Singularity University [more a think-tank than a university, based in Silicon Valley in the United States, with an unwritten transhumanist approach] who wore medallions around their necks requesting that, if they died, their heads should be cryopreserved. I see this as the emergence of a new form of conservatism, even though I am the one who comes across as a bioconservative, because I am opposed to the transhumanist philosophy. But when my critics call me a reactionary, they are using the same types of arguments as politicians – who claim to be modernizing or reforming, while eroding the social rights of a country and labelling as conservative, all those who want to defend their rights!

The hybridization of humans and machines is already a reality. That is also a transhumanist ideal.

We have not even begun to understand living beings and hybridization, because biological technology today still omits almost all of life, which cannot be reduced only to those physiochemical processes that can be modelled. Having said this, the living have already been hybridized with the machine, and this will certainly be even more so, with products resulting from new technologies.

There are many machines with which we work, and to which we delegate a number of functions. But are they all necessary? That’s the whole point. I have worked on cochlear implants and the culture of deaf people. There are millions of deaf people who claim their own culture – which is not respected enough – and who refuse to have a cochlear implant because they prefer to express themselves in sign language. Does this innovation, which could crush the culture of deaf people, constitute progress? The answer is not intrinsically obvious.

Above all, we need to ensure that hybridization takes place with respect for life. However, what we are witnessing today is not so much hybridization as the colonization of the living, by machines. Because they externalize their memories, many people no longer remember anything. They have memory problems that are not the result of degenerative pathologies.

Take the case of Global Positioning Systems (GPS), for example. There have been studies on taxi drivers in Paris and London, both labyrinthine cities. While London taxi drivers navigate by orienting themselves, Parisians systematically use their GPSes. After a three-year period, psychological tests showed that the subcortical nuclei responsible for mapping time and space had atrophied in the Parisian sample (atrophies that would certainly be reversible if the person abandoned this practice). They were affected by a form of dyslexia that prevented them from negotiating their way through time and space. That is colonization – the area of the brain is atrophied because its function had been delegated, without being replaced by anything.

What worries you the most? 

I am worried about the inordinate success of the logic of innovation. The notion of progress has misfired. It has been replaced by the idea of innovation, which is something quite different – it contains neither a starting point nor an end point, and is neither good nor bad. It must, therefore, be questioned critically. Using a computer word processor is much more powerful than the Olivetti typewriter I used in the 1970s – for me this is progress. But conversely, every smartphone contains dozens of applications and few people ask themselves seriously how many of them they really need. Wisdom consists of keeping a distance from the fascination provoked by entertainment and the effectiveness of new technologies.

Also, in a disoriented society that has lost its great narratives, the transhumanist discourse is very disturbing – it infantilizes humans, and views the promises of technology without scepticism. In the West, technology has always referred to the idea of transcending limits. Already in the seventeenth century, the French philosopher René Descartes, for whom the body was a machine, had imagined the possibility of thought without a body. It is a human temptation to dream that, through science, we will free ourselves of our bodies and their limitations – something that transhumanists believe they will finally achieve.

But the dream of an all-powerful, post-organic man who knows no limits has all kinds of serious consequences for society. It seems to me that it should even be viewed as a mirror image of the rise of religious fundamentalism, which lurks behind the supposed natural values of humans. I see them as two irrational forms of fundamentalism at war.

Photo: Jordi Isern