Podemos recordar 2018 como el año en que el potencial distópico de la tecnología se hizo evidente, de FacebookEl rol de 'permitir la recolección de nuestros datos personales para elección interferencia a una serie de revelaciones aparentemente interminables sobre el lado oscuro del espíritu de todo lo relacionado con Silicon Valley.
La lista es larga: herramientas de alta tecnología para inmigración represión Los miedos de la adicción a los teléfonos inteligentes. Youtube Algoritmos que conducen a los jóvenes al extremismo. Un experimento en bebés editados genéticamente.
Timbres y salas de conciertos que pueden identificar rostros individuales y alertar a la policía. Reorientar los sitios web de genealogía para buscar sospechosos de delitos basados en el ADN de un familiar. Sistemas automatizados que vigilan los movimientos y hábitos de los trabajadores. Coches eléctricos en Shanghai transmitiendo cada movimiento al gobierno.
Ha sido suficiente para agotar incluso a los visionarios de ciencia ficción más imaginativos.
"No parece que estemos viviendo en el futuro ahora, sino que estamos viviendo en un futuro retro", escribió este mes el novelista William Gibson. . "Un futuro retro oscuro y tonto de los 90".
Nos espera más en 2019, a medida que aumentan los esfuerzos de vigilancia y recopilación de datos y los sistemas de inteligencia artificial comienzan a sonar más humanos, leyendo expresiones faciales y generando imágenes de video falsas tan realistas que será más difícil detectar distorsiones maliciosas de la verdad.
Pero también hay contramedidas en marcha en el Congreso y el gobierno estatal, e incluso entre los empleados de las empresas de tecnología que son más activos para garantizar que su trabajo tenga fines positivos.
"Algo que fue alentador este año fue que acompañando a este desfile de escándalos fue una creciente conciencia pública de que hay una crisis de responsabilidad en la tecnología", dijo Meredith Whittaker, cofundadora del Instituto AI Now de la Universidad de Nueva York para estudiar las implicaciones sociales de inteligencia.
El grupo ha compilado una larga lista de lo que hizo al 2018 tan siniestro, aunque muchos son ejemplos del público que simplemente se está dando cuenta de los problemas que se han acumulado durante años. Entre los casos más preocupantes estuvo la revelación en marzo de que la empresa de análisis de datos políticos Cambridge Analytica obtuvo información personal de millones de usuarios de Facebook con el propósito de manipular las elecciones nacionales.
"Realmente ayudó a despertar a la gente al hecho de que estos sistemas realmente están tocando el núcleo de nuestras vidas y moldeando nuestras instituciones sociales", dijo Whittaker.
Eso fue algo más que otros desastres en Facebook, incluido su papel en el fomento de la violencia en Myanmar, las principales violaciones de datos y las inquietudes en curso sobre la presentación de cuentas falsas para la propaganda rusa.
No era solo Facebook. Google atrajo la preocupación sobre su vigilancia continua de los usuarios después de que The Associated Press informara que estaba rastreando los movimientos de las personas, les guste o no.
También se enfrentó a la disidencia interna por su colaboración con los militares de EE. UU. Para crear drones con "visión computarizada" para ayudar a encontrar objetivos en el campo de batalla y una propuesta secreta para lanzar un motor de búsqueda censurado en China. Y reveló un asistente de voz notablemente humano que suena tan real que las personas en el otro extremo del teléfono no sabían que estaban hablando con una computadora.
Esas y otras preocupaciones surgieron en diciembre cuando los legisladores interrogaron al CEO de Google, Sundar Pichai, en una audiencia en el Congreso, una secuela de los comentarios públicos similares de este año con el CEO de Facebook, Mark Zuckerberg, y otros ejecutivos de tecnología.
"Fue necesario convocar esta audiencia debido a la creciente brecha de desconfianza entre las empresas de tecnología y el pueblo estadounidense", dijo el líder de la mayoría republicana en la Cámara de Representantes, Kevin McCarthy.
El pionero de Internet, Vint Cerf, dijo que él y otros ingenieros nunca imaginaron que su visión de una red mundial de computadoras conectadas se transformaría 45 años después en un sistema de vigilancia que recopila información personal o una máquina de propaganda que podría influir en las elecciones.
"Solo intentábamos que funcionara", recordó Cerf, quien ahora es el principal evangelista de Internet de Google. "Pero ahora que está en manos del público en general, hay personas que ... quieren que funcione de una manera que obviamente haga daño, se beneficie a sí misma o interrumpa el sistema político. Así que vamos a tener que enfrentarnos". con ese."
Contrariamente a los temores futuristas de que los robots "súper inteligentes" tomen el control, los peligros reales de nuestra era tecnológica se han arrastrado de forma más prosaica, a menudo en forma de innovaciones tecnológicas que recibimos para hacer la vida más cómoda.
Parte de la preocupación de los expertos sobre el salto para conectar cada dispositivo doméstico a Internet y dejar que las computadoras realicen nuestro trabajo es que la tecnología aún tiene errores y está influenciada por errores y prejuicios humanos. Uber y Tesla fueron investigados por accidentes automovilísticos fatales en marzo, IBM se sometió a un escrutinio por trabajar con la policía de la Ciudad de Nueva York para construir un sistema de reconocimiento facial que pueda detectar el origen étnico, y Amazon tomó medidas para proporcionar su propio servicio de reconocimiento facial defectuoso a las fuerzas del orden.
En algunos casos, la oposición a la prisa de la industria de la tecnología para aplicar sus innovaciones más nuevas a usos comerciales cuestionables provino de sus propios empleados. Los trabajadores de Google ayudaron a descifrar el contrato de aviones no tripulados de la compañía en el Pentágono, y los trabajadores de Amazon, Microsoft y Salesforce intentaron cancelar los contratos de sus compañías para suministrar servicios de tecnología a las autoridades de inmigración.
"Para mucha gente se hizo evidente que la retórica de hacer el bien y beneficiar a la sociedad y 'No ser malvado' no era lo que realmente estaban haciendo estas compañías", dijo Whittaker, quien también es un científico investigador de Google que Fundó su grupo Open Research.
Al mismo tiempo, incluso algunos titanes de la tecnología han estado sonando alarmas. Ingenieros y diseñadores prominentes han hablado cada vez más sobre proteger a los niños de los productos tecnológicos que crean hábito que ayudaron a crear.
Y luego está el presidente de Microsoft, Brad Smith, quien en diciembre pidió regular la tecnología de reconocimiento facial para que el "año 2024 no se vea como una página" del "1984" de George Orwell.
En una publicación en un blog y en un discurso en Washington, Smith pintó una visión sombría de los sistemas de vigilancia del gobierno, que obligan a los disidentes a esconderse en habitaciones oscuras "para hacer tapping en el código con señales manuales en los brazos del otro".
Para evitar tal escenario orwelliano, Smith aboga por la regulación de la tecnología para que se notifique adecuadamente a cualquier persona que esté a punto de someterse a vigilancia. Pero los defensores de la privacidad argumentan que eso no es suficiente.
Tales debates ya están ocurriendo en estados como Illinois, donde una estricta ley de reconocimiento facial ha enfrentado desafíos de la industria tecnológica, y California, que en 2018 aprobó la ley de mayor alcance de la nación para otorgar a los consumidores un mayor control sobre sus datos personales. Entra en vigor en 2020.
El tema podría recibir nueva atención en el Congreso el próximo año a medida que más republicanos se calienten con la idea de las regulaciones básicas de privacidad en línea y la mayoría de los miembros de la Casa Demócrata adopte un enfoque más escéptico hacia las empresas tecnológicas que muchos políticos liberales consideraron aliados y donantes prolíficos .
El enfoque de "dejarlos solos" de la temprana era de Internet ya no funcionará, dijo el representante David Cicilline, un demócrata de Rhode Island que está preparado para tomar el mando del subcomité antimonopolio de la Cámara.
"Estamos viendo ahora algunas de las consecuencias de los abusos que pueden ocurrir en estas plataformas si no se regulan sin una supervisión o cumplimiento significativos", dijo Cicilline.
Demasiada regulación puede traer sus propios efectos secundarios indeseables, advirtió Cerf.
"En cierto modo, es divertido porque se suponía que este entorno en línea eliminaría la fricción de nuestra capacidad para realizar transacciones", dijo. "Si en nuestro deseo, si no en el celo, proteger la privacidad de las personas, echamos arena a los engranajes de todo, podemos terminar con un sistema muy seguro que no funciona muy bien".
———
El escritor de tecnología AP Michael Liedtke en San José, California, contribuyó a este informe.
.
Comentarios
Publicar un comentario