Resumen ejecutivo

Ronald Bailey es un escritor científico cuyos libros incluyen Liberation Biology y The End of Doom: Environmental Renewal in the 21st Century. También ha producido documentales para PBS y ABC, y ha publicado en revistas como Reason y Forbes. Aquí nos centramos en su artículo ampliado de 2019 sobre las implicaciones de la IA para la gobernanza.

​

1. El software de reconocimiento facial, como Rekognition de Amazon, está siendo probado y utilizado por las fuerzas policiales locales, así como por agencias del gobierno federal como el Servicio de Inmigración y Control de Aduanas (ICE), el FBI y la Administración Antidrogas. Los diversos usos particulares (rastrear a inmigrantes no autorizados y a presuntos delincuentes) podrían integrarse en los sistemas de vigilancia masiva en red.
2. Los sistemas son imperfectos. Los falsos positivos —Bailey señala que la tecnología comparó erróneamente a 28 miembros del Congreso con fotos policiales de delincuentes— provocará la detención de personas inocentes y las expondrá a los peligros de la intervención policial.
3. Sin embargo, la policía, los burócratas y otros funcionarios del gobierno también pueden cometer errores, así como mentir intencionalmente y hacer el mal. ¿El aumento del uso de algoritmos en la gobernanza minimizaría los errores, los sesgos y las malas acciones intencionales? Algocracia se define como «gobierno algorítmico que utiliza la minería de datos y el análisis predictivo/descriptivo para restringir y controlar el comportamiento humano».
4. La persona promedio ahora interactúa con frecuencia con dispositivos digitales conectados: teléfonos inteligentes, Fitbits, sistemas de pago, cámaras de seguridad, máquinas expendedoras. A medida que los vehículos autónomos, los implantes médicos, los controles domésticos como Alexa y la señalización digital sean cada vez más omnipresentes, se prevé que para 2025 cada uno de nosotros «interactuaremos con dispositivos digitales conectados casi 4.800 veces al día».
5. Quién controla la información y las acciones posibles con ella se convierte así en una cuestión políticamente básica. ¿Controlaremos cada uno la nuestra, nos dejaremos llevar por una combinación de decisiones personales, empresariales y gubernamentales, o pasaremos a estar controlados por fuerzas impersonales que en gran medida desconocemos? El espíritu empresarial crecerá a medida que la aceleración genere más oportunidades y «el tiempo necesario para obtener capital inicial se haya reducido de años a minutos» (23).
6. Un futuro posible es capitalismo de vigilancia, en la que proporcionamos nuestros datos personales a empresas privadas que luego «utilizan sus tecnologías de análisis de datos para ofrecer sugerencias personalizadas de servicios y productos que esperan satisfagan nuestras necesidades y deseos». Participaremos de forma voluntaria porque creemos que los algoritmos utilizados serán más benévolos que malévolos.
7. Otra posibilidad es comunismo de vigilancia: los gobiernos dictatoriales utilizan algoritmos para dirigir el comportamiento de los ciudadanos hacia los resultados deseados por el gobierno y no hacia los de los ciudadanos individuales. El experimento de crédito social de China que comenzó en 2014 es un gran paso en ese camino, al final del cual se encuentra la distopía retratada en la novela de George Orwell Mil novecientos ochenta y cuatro, en la que la Policía del Pensamiento descubre y castiga no solo las «malas acciones» sino también los «delitos mentales», es decir, las ideas personales que han sido proscritas por el Partido.

​

Leer El artículo completo de Ronald Bailey aquí. Resumen de Stephen Hicks, 2020.

‍