مقال
أودري أزولاي: لنستغلّ أحسن ما في الذكاء الإصطناعي
يُمكن للذكاء الإصطناعي أن يُساعد البشرية على تجاوز عدد كبير من المشاكل الاجتماعية الخطيرة التي تُواجهها، لكنّه يُطلق، في الآن نفسه، جملة من التحدّيات المُعقّدة بالخصوص على صعيد الأخلاق، وحقوق الإنسان والأمن. إلا أنه لا يوجد، إلى حدّ الساعة، أي إطار أخلاقي دُولي ينطبق على جملة تطوّرات الذكاء الإصطِناعي وتطبيقاته. وبالتالي، من الضروري إيجاد آليّة دولية تُحدّد المعايير في هذا المجال.
أودري أزولاي، المديرة العامة لليونسكو، تجيب عن أسئلة ياسمينا شوبوفا
لماذا تهتم اليونسكو بالذكاء الإصطناعي؟
أجمع الخبراء على أن الإنسانية تعيش فجر عصر جديد. وسوف يُغيّر الذكاء الإصطناعي وجودنا بشكل أعمق ممّا نتخيله. لقد بدأ هذا التغيير في التأثير على كافة مجالات حياتنا. ويعدّ الذكاء الإصطناعي الكثير من التطبيقات في ميادين مُتنوّعة مثل الصحة، والتعليم، والثقافة، والأمن، والدفاع... وقد شهدت البحوث تقدّما كبيرا في السنوات الأخيرة: أصبح عمالقة الواب (غوغل، أيبل، فيسبوك، أمازون، مايكروسوفت)، وكذلك العديد من الدول، يستثمرون في الذكاء الاصطناعي، وأصبحوا بذلك صانعي هذه «الثورة الصناعية الرابعة».
في زمن هذه التحوّلات، لليونسكو دور حقيقي عليها أن تضطلع به. أوّلا، لأن تطبيقات الذكاء الإصطناعي مرتبطة مباشرة بمجالات اختصاصها. سوف يغيّر الذكاء الإصطناعي التعليمَ بصفة جذرية، لما سيُحدثه من ثورة في آليات التدريس، وطرق التعلّم والوصول إلى المعرفة، وكيفيّة تكوين المُدرّسين. وسوف تصبح مسألة تطوير الكفاءات الضرورية لمجاراة عالم ينمو باستمرار في اتجاه الآليّة، مسألة مركزية أكثر فأكثر.
في مجال الثقافة، أصبح الذكاء الإصطناعي مطلوبا جدّا، كما هو الحال بالنسبة للتصوير بثلاثة أبعاد في إعادة بناء التراث، وسوف نطبقه في مدينة الموصل العتيقة في العراق. وكذلك في مجالات العلوم، وخاصّة في البرامج البيئيّة وفي استكشاف أعماق البحار، مثل تصنيف صور العوالق أو الكشف الآلي عن الحيتان والطيور البحرية وتعدادها. وبطبيعة الحال، يستند الاتصال والإعلام أيضا إلى التقدّم الذي أحرزه مجال الذكاء الإصطناعي. ويعود لليونسكو التفكير في منافع الذكاء الاصطناعي ومخاطره على التعليم والثقافة والعلم والاتصال والإعلام.
ما هي مخاطره حسب رأيك؟
بصفة عامة، يمكن اعتبار الذكاء الإصطناعي فرصة رائعة لتحقيق أهداف جدول أعمال 2030، لكن ذلك يستلزم معالجة المسائل الأخلاقية التي يطرحها، على الفور. هو فرصة لأن تطبيقاته تُساعد على التقدّم بأكثر سرعة نحو تحقيق أهداف التنمية المستدامة، فهي تسمح بتقييم أفضل للمخاطر، وتحسين الاستشراف، وتوسيع نطاق تقاسم المعارف، وهي تقترح حلولا مُبتكرة في مجالات التعليم والصحة والبيئة والتخطيط العمراني والصناعات الخلاقة، كما أنها تحسّن مستوى العيش ورفاهية الحياة اليومية. لكنّه يُشكّل أيضا تهديدا، لأنّ تعميم الآليّة والرقمنة يُحدثان اختلالات جديدة، وقد يتسببان في الحدّ من التنوّع في الصناعات الثقافية، وفي اضطراب سوق الشغل والتهميش وتعميق التفاوت بين المتمتعين بالتكنولوجيا الحديثة والمحرومين منها.
ولليونسكو في هذا المجال بالتحديد دور يتمثل في محاولة التقليص من عدم التكافؤ في نيل المعرفة والاستفادة من البحث، وذلك من خلال دعم الدول الأعضاء. إن الفجوة التكنولوجية قد تؤدي إلى مُضاعفة التفاوت الاجتماعي. وعلى اليونسكو أن تكون قادرة على مساعدة الدول الأعضاء في التكيّف مع الواقع الجديد والوصول إلى المعرفة التكنولوجية.
كيف يُمكن لليونسكو أن تُقدّم هذه المساعدة بشكل ملموس؟
بالنسبة للدول الأعضاء، يتمثل أحد الرهانات في القدرة على الحصول على معدّات الهندسة المُتطوّرة التي تكون في ذروة الابتكار، وكذلك في توفر الكفاءات البشرية اللازمة، من علماء ومهندسين. وبوسع اليونسكو تقديم مثل هذا الدعم، والمساعدة على تقليص الفوارق بين الدول، بفضل مراكز التعليم والتكوين في مجال العلوم والتكنولوجيا والابتكار التابعة لها، والمرصد العالمي لآليات رسم سياسات العلوم والتكنولوجيا والتجديد، بالإضافة إلى البرنامج الدولي للعلوم الأساسية.
ما هي التحدّيات التي يطرحها الذكاء الإصطناعي في مجال التعليم؟ وكيف تنوي اليونسكو مجابهتها؟
بطبيعة الحال، التعليم مجال أساسي بالنسبة للمنظمة، وسوف تؤثر فيه هذه الثورة الناشئة بصفة إيجابية وسلبية، في آن واحد. لقد تمّ استخدام برمجيّات بيداغوجية ترتكز على الذكاء الاصطناعي لتحقيق لامركزية التعليم، وتكييفه للاستجابة للحاجيات الخصوصية، وإرشاد الطلبة حول المناهج، وكذلك في تطابق الشهادات. إلا أن هذه التكنولوجيات باهظة الثمن وليست في متناول الجميع، وقد تتعمّق الفجوة بين الأغنياء والفقراء أكثر.
واعتبارا لدورها كمنسق للهيئة المديرة لأهداف التنمية المستدامة – التعليم 2030 المُكلّفة بمتابعة تحقيق هدف التنمية المستدامة 4 المتعلق بالتعليم، تشغل اليونسكو موقعا مُتميّزا للقيام بهذه المهمة، وذلك من خلال تحديد المساهمات الممكنة للذكاء الاصطناعي في تعليم مفتوح للجميع، وتقييم تأثيره المُحتمل على مستقبل التعلّم.
وقد أدرجنا ضمن أولوياتنا ترويج أدوات الذكاء الاصطناعي المُتاحة للاستعمال الحر التي من شأنها أن تُيسّر الابتكارات المحلّية.
وحتى تكون الأجيال القادمة مستعدة للانصهار في المشهد الجديد الذي يرسمه الذكاء الاصطناعي لعالم الشغل، لا بد أيضا من إعادة التفكير في البرامج التربويّة، وذلك بالتأكيد على تدريس العلوم، والتكنولوجيا، والهندسة، والرياضيات، وكذلك بإيلاء مكانة من الدرجة الأولى للإنسانيات، والكفاءات في ميدان الفلسفة والأخلاقيات.
ما علاقة الذكاء الاصطناعي بالفلسفة والأخلاقيات؟
عند بلوغهم سن الكهولة، سوف يُواجه حتما تلاميذ وطلبة اليوم مشاكل من نوع آخر لا نستطيع إدراكها في الوقت الحاضر. ومن الصعب التكهّن بكل التطوّرات الممكنة لهذه الآلات التي تتطور باستمرار، والتي تخطو يوما بعد يوم خطوات في اتّجاه استقلاليّتها لدرجة أنها أصبحت منذ الآن تتحدّى، إلى درجة ما، الهويّة البشرية. ولهذا السبب، فإن الكفاءات في مجال الأخلاقيات، وكذلك في العلوم الاجتماعية والإنسانية بصفة عامة، سوف تكون ضرورية بنفس قدر الكفاءات في العلوم الأساسية. كما أن هناك احتمال في وجود انحرافات في نُظم الذكاء الاصطناعي – وخاصّة في ما يتعلّق بالنوع الجنسي – تتطلّب أكثر شفافية من قبل هذه النظم، وتستدعي مبادئ أخلاقية صارمة لتصحيحها.
لماذا يصعب التكهّن بالتطوّرات القادمة للذكاء الاصطناعي؟
يتقدّم البحث في مجال الذكاء الاصطناعي بسرعة فائقة، في حين يبقى تطوير البيئة القانونية والاجتماعية والأخلاقية التي يجب أن تؤطره، بطيئا. إلى أي حد يُمكن أن تصل استقلاليّة الآلة وقدرتها على اتّخاذ القرار؟ وفي حال وقوع حادث، لمن تعود المسؤولية؟ ومن يقرر تحديد القيم التي يجب ترسيخها في الآلات خلال ما يُسمّى بفترة «تعلّم الآلة»؟ هذه الأسئلة، وليست الوحيدة، تبقى إلى اليوم دون جواب.
لقد لاحظنا، مثلا، أن الخوارزميات التي صيغت على أساس اللغة البشرية العاديّة، اقتنت أحكاما مسبقة ترتكز على صور نمطية انطلاقا من معطيات لفظية موجودة في ثقافتنا اليومية. فكيف لا ننشغل من خطر ظهور آلات يكون سلوكها تمييزيّا أو عنصريّا أو عدائيّا؟
كما أن هناك دوافع للانشغال على أصعدة أخرى: حماية الحياة الشخصية، والإشهار المستهدف على الإنترنت، وحرّية التعبير وخوارزميات الرقابة، والصحافة الآليّة واحتكار الإعلام...
ورغم أن البحث الأساسي في هذا المجال أتى، إجمالا، بدافع توفير رفاهية العيش، تبقى الانحرافات غير المقصودة، والمقصودة أيضا، ممكنة. ولهذا السبب، يتحتم علينا التأكد من أن هذه التكنولوجيا تتطوّر حسب معايير أخلاقيّة مضبوطة بشكل صارم.
ماذا في مقدور اليونسكو أن تفعله في هذا المضمار؟
إذا أردنا أن يستفيد العالم بأسره، وعلى أحسن وجه، من الإمكانيات التي يوفرها الذكاء الاصطناعي، علينا أن نسهر على أن يكون في خدمة البشريّة، مع احترام حقوق الإنسان وكرامته.
إلا أنه لا يُوجد لحدّ الساعة أي إطار أخلاقي دُولي يعنى بجملة تطوّرات الذكاء الاصطناعي وتطبيقاته.
تمثل اليونسكو المنتدى الكوني الوحيد الذي يحظى بتجربة تفوق العشرين سنة في إعداد الآليّات الدولية المُتعلّقة بأخلاقيات البيولوجيا وأخلاقيات العلوم والتكنولوجيا*. كما أن بإمكانها الإعتماد على جهازين استشاريّين يضمّان خبراء يعملون جاهدين على هذه المسائل: اللجنة العالمية لأخلاقيّات المعرفة العلمية والتكنولوجيا، واللجنة الدّولية لأخلاقيات البيولوجيا.
ومن مسؤوليتنا إدارة حوار كوني ومستنير – لا يكون حوارا تقنيّا وإنما أخلاقيّا بالمعنى الكامل – حتى نقتحم هذا العصر الجديد بأعين مفتوحة، دون أن نُضحّي بقِيمنا، وحتى نتيح، إن أرادت الدول الأعضاء ذلك، إمكانية التوصّل إلى أرضية مشتركة من المبادئ الأخلاقية.
روبوتات وأخلاقيات
من يصنع القرار؟
المزيد من المعلومات:
الإعلان العالمي بشأن المجين البشري وحقوق الإنسان (1997)
الإعلان الدولي بشأن البيانات الوراثية البشرية (2003)
الإعلان العالمي لأخلاقيات البيولوجيا وحقوق الإنسان (2005)
إعلان المبادئ الأخلاقية في علاقة بالتغيّرات المناخية (2017)
التوصية المُتعلّقة بالعلم والباحثين في العلوم (2017)
Audrey Azoulay, Director-General of UNESCO, interviewed by Jasmina Šopova
Why is UNESCO interested in AI?
The experts are unanimous: humanity is on the threshold of a new era. Artificial intelligence will transform our lives to an extent that we cannot imagine. This transformation has already begun and it affects all aspects of our lives. AI has many applications in fields as varied as health, education, culture, security, defence, etc. Research has increased considerably in recent years: the giants of the web, FAMGA, but also many countries, are now investing massively in AI, and becoming actors of this “Fourth Industrial Revolution”.
UNESCO has a significant role to play in these changing times. First, because AI’s applications directly affect the Organization’s areas of expertise. Education will be profoundly transformed by AI. Teaching tools, ways of learning, access to knowledge, and teacher training will be revolutionized. The question of what skills to develop in order to evolve in an increasingly automated world will become more and more central.
In the field of culture, AI is already widely applied: for example, 3D imaging is used for heritage reconstruction – as we will do for the old city of Mosul in Iraq. In the sciences too, particularly in our environmental programmes and in underwater research – for the classification of plankton images or the automatic detection and census of cetaceans and seabirds, for example. Communication and information are also directly dependent on advances in AI. UNESCO must lead this reflection on the benefits and risks of AI in education, culture, science and communication and information.
What are the risks, in your view?
In general, AI can be a fantastic opportunity to achieve the goals set by the 2030 Agenda, but that means addressing the ethical issues it presents, without further delay. An opportunity, because its applications can help us to advance more rapidly towards the achievement of the Sustainable Development Goals (SDGs) – by allowing better risk assessment; enabling more accurate forecasting and faster knowledge-sharing; by offering innovative solutions in the fields of education, health, ecology, urbanism and the creative industries; and by improving standards of living and our daily well-being. But it is also a threat, because automation and digitization create new imbalances. They can decrease diversity in cultural industries, disrupt the labour market, create job insecurity and increase disparities between those who have access to these new technologies and those who are deprived of them.
This is where UNESCO also has a role to play – in trying to reduce the inequalities in access to knowledge and research – through the support it provides to its Member States. The technological divide is likely to have a multiplier effect on social inequalities. UNESCO must be able to help its Member States adapt to new realities and access technological knowledge.
How can UNESCO provide this support, concretely?
One of the challenges for Member States is to have sophisticated, cutting-edge engineering materials and adequate human resources – scientists and engineers. Through its Centres for Education and Training in Science, Technology and Innovation (STI), its Global Observatory of Science, Technology and Innovation Policy Instruments (GO-SPIN) and its International Basic Sciences Programme (IBSP), UNESCO is in a position to provide such support – and to help reduce disparities between countries.
What are the challenges posed by AI in education? How does UNESCO intend to respond to these?
This is, of course, a key area for the Organization. Here again, the revolution that is now underway is generating both positive and negative effects.
Educational software based on AI is already being used to decentralize teaching and personalize it, and to provide students with curriculum advice, or even certification. But these technologies are expensive and therefore inaccessible to the great majority – the gap between rich and poor is likely to widen even further.
As a result of its coordinating role in the SDG-Education 2030 Steering Committee to monitor the achievement of Sustainable Development Goal 4, dedicated to education, UNESCO is in an excellent position to lead this work – by identifying the possible contributions of AI to inclusive education and assessing its potential impact on the future of learning.
Promoting open-access AI tools that will encourage local innovation will be one of our priorities.
To prepare future generations for the new landscape of work that AI is creating, it will also be necessary to rethink educational programmes, with an emphasis on science, technology, engineering and mathematics – but also giving a prominent place to the humanities and to competencies in philosophy and ethics.
What is the relationship between AI and philosophy or ethics?
In their adult lives, today's schoolchildren and students will undoubtedly have to face problems that are currently unfathomable to us. It is difficult to predict all the possible developments of these increasingly sophisticated machines that are gaining a little more autonomy each day – to the point of already challenging human identity, to a certain extent. This is why skills in ethics, but also in the social sciences and the humanities in general, will be just as important as those in the formal sciences. There may also be embedded biases – including gender biases – in AI systems, that require more transparency from these systems and strong ethical principles to correct them.
Why is it difficult to predict future developments in AI?
Research in the field of AI is advancing at a very rapid pace, while the legal, social and ethical environments that are needed to guide it are evolving very slowly. How far can a machine’s autonomy and its decision-making power be allowed to go? If an accident occurs, who is responsible? And who decides what values are instilled in machines during what is called their “training”? These and many other questions remain unanswered today.
It was noticed, for example, that algorithms trained in ordinary human language had acquired prejudices based on stereotypes from textual data present in our everyday culture. How can we not be concerned about the danger of the emergence of machines with discriminatory, racist or hostile behaviours?
There are also many other reasons to be concerned about – privacy protection and targeted advertising on the internet; freedom of expression and censorship algorithms; automated journalism and information monopolies, etc.
Even if fundamental research in this field is largely motivated by well-being, unintentional, but also intentional, deviations are always possible. That is why it is imperative to ensure that this technology develops according to rigorously established ethical standards.
What can UNESCO do in this regard?
If we are to make the most of the possibilities offered by AI to the world, we must ensure that it serves humanity, with respect for human dignity and human rights.
Yet, no international ethical framework that applies to all AI developments and applications currently exists.
UNESCO is this unique universal forum with over twenty years of experience in developing international instruments related to bioethics and the ethics of science and technology*. It can also rely on the expertise of two advisory bodies working actively on these issues: the World Commission on the Ethics of Scientific Knowledge and Technology (COMEST) and the International Bioethics Committee (IBC).
It is our responsibility to lead a universal and enlightened debate – not a technical debate, but an ethical one – in order to enter this new era with our eyes wide open, without sacrificing our values, and to make it possible, if Member States so wish, to establish a common global foundation of ethical principles.
