ملخص تنفيذي

رونالد بيلي هو كاتب علمي تشمل كتبه بيولوجيا التحرير ونهاية الموت: التجديد البيئي في القرن الحادي والعشرين. أنتج أيضًا أفلامًا وثائقية لـ PBS و ABC، بالإضافة إلى نشرها في مجلات مثل Reason و Forbes. نركز هنا على مقالته الموسعة لعام 2019 حول آثار الذكاء الاصطناعي على الحوكمة.

​

1. يتم اختبار برامج التعرف على الوجوه، مثل Amazon Rekognition، واستخدامها من قبل قوات الشرطة المحلية، وكذلك الوكالات الحكومية الفيدرالية مثل إدارة الهجرة والجمارك (ICE)، ومكتب التحقيقات الفيدرالي، وإدارة مكافحة المخدرات. يمكن دمج الاستخدامات الخاصة المختلفة - تعقب المهاجرين غير المصرح لهم والمجرمين المشتبه بهم - في أنظمة شبكية للمراقبة الجماعية.
2. الأنظمة غير كاملة. الاعترافات الإيجابية الكاذبة - يشير بيلي إلى أن التكنولوجيا طابقت بشكل خاطئ 28 عضوًا في الكونجرس بطلقات إجرامية - ستتسبب في احتجاز الأبرياء وتعريضهم لمخاطر تدخل الشرطة.
3. ومع ذلك، يمكن للشرطة والبيروقراطيين وغيرهم من مسؤولي الحكم أن يرتكبوا الأخطاء أيضًا، فضلاً عن الكذب المتعمد وفعل الشر. هل سيؤدي الاستخدام المتزايد للخوارزميات في الحوكمة إلى تقليل الأخطاء والتحيز وأعمال الشر المتعمدة؟ ألجوقراطية يتم تعريفها على أنها «الحوكمة الخوارزمية التي تستخدم استخراج البيانات والتحليلات التنبؤية والوصفية لتقييد السلوك البشري والتحكم فيه».
4. يتفاعل الشخص العادي الآن مع الأجهزة الرقمية المتصلة بشكل متكرر: الهواتف الذكية، Fitbits، أنظمة الدفع، الكاميرات الأمنية، آلات البيع. نظرًا لأن المركبات ذاتية القيادة والغرسات الطبية وأدوات التحكم المنزلية مثل Alexa واللافتات الرقمية أصبحت أكثر انتشارًا في كل مكان، فإن أحد التنبؤات هو أنه بحلول عام 2025 «سيتفاعل كل منا مع الأجهزة الرقمية المتصلة ما يقرب من 4800 مرة في اليوم».
5. وهكذا يصبح من يتحكم في المعلومات والإجراءات الممكنة معها قضية سياسية أساسية. هل سيتحكم كل منا في شؤونه الخاصة، هل سيتم دفعنا بمزيج من القرارات الشخصية والشركات والحكومات، أم أننا سنصبح تحت سيطرة قوى غير شخصية لا ندركها إلى حد كبير؟ سوف تزدهر ريادة الأعمال لأن التسارع يخلق المزيد من الفرص ولأن «الوقت المستغرق لزيادة رأس المال الأولي قد تقلص من سنوات إلى دقائق». (23)
6. أحد المستقبل المحتمل هو رأسمالية المراقبة، حيث نقدم بياناتنا الشخصية للشركات الخاصة التي «تستخدم بعد ذلك تقنيات تحليل البيانات الخاصة بها لتقديم اقتراحات مخصصة للخدمات والمنتجات التي تأمل أن تلبي احتياجاتنا ورغباتنا». سنشارك طواعية لأننا نعتقد أن الخوارزميات المستخدمة ستكون أكثر فائدة من كونها خبيثة.
7. الاحتمال الآخر هو شيوعية المراقبة: تستخدم الحكومات الديكتاتورية الخوارزميات لتوجيه سلوك المواطنين نحو النتائج المرجوة من الحكومة بدلاً من المواطن الفردي. وتعد تجربة الائتمان الاجتماعي في الصين التي بدأت في عام 2014 خطوة كبيرة على هذا الطريق، وفي نهايتها تكمن الديستوبيا التي تم تصويرها في رواية جورج أورويل تسعة عشر أربعة وثمانون، حيث تكتشف شرطة الفكر وتعاقب ليس فقط «الأفعال السيئة» ولكن «جرائم الفكر» - أي الأفكار الشخصية التي حظرها الحزب.

​

اقرأ مقالة رونالد بيلي الكاملة هنا. ملخص بقلم ستيفن هيكيس، 2020.

‍