George Soros ataca el empuje de AI de China como & # 039; peligro mortal & # 039;
George Soros ataca el empuje de AI de China como & # 039; peligro mortal & # 039;
.Gobiernos y empresas en todo el mundo son Invirtiendo fuertemente en inteligencia artificial. con la esperanza de obtener nuevos beneficios, aparatos más inteligentes y una mejor atención médica. El financiero y filántropo George Soros dijo al Foro Económico Mundial en Davos el jueves que la tecnología también puede socavar las sociedades libres y crear una nueva era de autoritarismo.
"Quiero llamar la atención sobre el peligro mortal que enfrentan las sociedades abiertas a partir de los instrumentos de control que el aprendizaje automático y la inteligencia artificial pueden poner en manos de regímenes represivos", dijo Soros. Hizo un ejemplo de China, llamando repetidamente al presidente del país, Xi Jinping.
El gobierno de China emitió una estrategia amplia de inteligencia artificial en 2017, afirmando que superar las proezas estadounidenses en la tecnología para 2030. Al igual que en los EE. UU., gran parte del trabajo principal sobre IA en China tiene lugar dentro de un puñado de grandes empresas de tecnología, como motor de búsqueda Baidu, y la empresa minorista y de pagos Alibaba.
Soros argumentó que las empresas de tecnología centradas en la inteligencia artificial como esas pueden convertirse en facilitadoras del autoritarismo. Señaló a El sistema de "crédito social" en desarrollo de China, destinado a rastrear la reputación de los ciudadanos mediante el registro de la actividad financiera, interacciones en línea e incluso el uso de energía, entre otras cosas El sistema aún está tomando forma, pero depende de los datos y la cooperación de compañías como la compañía de pagos Ant Financial, una escisión de Alibaba. "El sistema de crédito social, si se volviera operativo, le daría a Xi Jinping el control total sobre la gente", dijo Soros.
Soros argumentó que una sinergia como la existente entre los proyectos de AI corporativos y gubernamentales crea una amenaza más potente que la que plantearon los autócratas de la época de la Guerra Fría, muchos de los cuales rechazaron la innovación corporativa. "La combinación de regímenes represivos con los monopolios de TI otorga a esos regímenes una ventaja incorporada sobre las sociedades abiertas", dijo Soros. "Ellos representan una amenaza mortal para las sociedades abiertas".
Soros está lejos de ser el primero en dar una alarma sobre los peligros de la tecnología de inteligencia artificial. Es un tema favorito de Elon Musky el año pasado, Henry Kissinger llamó a una comisión del gobierno de EE. UU. a examinar los riesgos de la tecnología. El cofundador de Google Sergey Brin advirtió en la carta anual más reciente para los accionistas de Alphabet que la tecnología de AI tenía desventajas, incluido el potencial para manipular a las personas. Canadá y Francia planean establecer un grupo intergubernamental Estudiar cómo la IA cambia a las sociedades.
El financiero intentó reclutar a Donald Trump en su campaña de vigilancia de inteligencia artificial. Aconsejó al presidente que sea más duro con los fabricantes de telecomunicaciones chinos ZTE y Huawei, para evitar que dominen el mercado. Redes móviles 5G de alto ancho de banda siendo construido alrededor del mundo. Ambas empresas son ya tambaleándose De las sanciones de los Estados Unidos y otros gobiernos.
Soros también instó a los adinerados asistentes de Davos a ayudar a forjar mecanismos internacionales para prevenir el autoritarismo mejorado por la IA, y eso podría incluir y contener a China. Les pidió que imaginaran una versión del tratado con orientación tecnológica firmada después de la Segunda Guerra Mundial que sustenta a las Naciones Unidas, obligando a los países a establecer estándares comunes para los derechos humanos y las libertades.
Aquí está el texto del discurso de Soros:
Quiero aprovechar mi tiempo esta noche para advertir al mundo sobre un peligro sin precedentes que amenaza la supervivencia de las sociedades abiertas.
El año pasado, cuando me presenté ante usted, pasé la mayor parte del tiempo analizando el papel nefasto de los monopolios de TI. Esto es lo que dije: “Está surgiendo una alianza entre los estados autoritarios y los grandes monopolios de TI ricos en datos que reúnen a los sistemas nacientes de vigilancia corporativa con un sistema en desarrollo de vigilancia patrocinada por el estado. Esto bien puede resultar en una red de control totalitario como la que ni siquiera George Orwell podría haber imaginado ".
Esta noche quiero llamar la atención sobre el peligro mortal que enfrentan las sociedades abiertas a partir de los instrumentos de control que el aprendizaje automático y la inteligencia artificial pueden poner en manos de regímenes represivos. Me centraré en China, donde Xi Jinping quiere que un estado de partido único sea el que reine.
Han pasado muchas cosas desde el año pasado y he aprendido mucho sobre la forma que tomará el control totalitario en China.
Toda la información de rápida expansión disponible sobre una persona se consolidará en una base de datos centralizada para crear un "sistema de crédito social". Sobre la base de esos datos, las personas serán evaluadas por algoritmos que determinarán si representan una amenaza para la persona. Estado del partido. Las personas serán tratadas en consecuencia.
El sistema de crédito social aún no está en pleno funcionamiento, pero está claro hacia dónde se dirige. Subordinará el destino del individuo a los intereses del estado de partido único en formas sin precedentes en la historia.
Encuentro el sistema de crédito social espantoso y abominable. Desafortunadamente, a algunos chinos les resulta bastante atractivo porque proporciona información y servicios que actualmente no están disponibles y también pueden proteger a los ciudadanos respetuosos de la ley contra los enemigos del estado.
China no es el único régimen autoritario en el mundo, pero es sin duda el más rico, más fuerte y más desarrollado en aprendizaje automático e inteligencia artificial. Esto convierte a Xi Jinping en el oponente más peligroso de aquellos que creen en el concepto de sociedad abierta. Pero Xi no está solo. Los regímenes autoritarios están proliferando en todo el mundo y, si tienen éxito, se volverán totalitarios.
Como fundador de Open Society Foundations, he dedicado mi vida a combatir ideologías totalizantes y extremistas que afirman falsamente que los fines justifican los medios. Creo que el deseo de las personas por la libertad no puede ser reprimido para siempre. Pero también reconozco que las sociedades abiertas están profundamente en peligro en la actualidad.
Lo que me parece particularmente inquietante es que los instrumentos de control desarrollados por la inteligencia artificial otorgan una ventaja inherente a los regímenes autoritarios sobre las sociedades abiertas. Para ellos, los instrumentos de control proporcionan una herramienta útil; Para las sociedades abiertas, representan una amenaza mortal.
Utilizo la "sociedad abierta" como una forma abreviada de una sociedad en la que prevalece el imperio de la ley en lugar de gobernar por un solo individuo y donde el papel del estado es proteger los derechos humanos y la libertad individual. Desde mi punto de vista personal, una sociedad abierta debería prestar especial atención a quienes sufren discriminación o exclusión social y a quienes no pueden defenderse.
En contraste, los regímenes autoritarios utilizan cualquier instrumento de control que posean para mantenerse en el poder a expensas de aquellos a quienes explotan y suprimen.
¿Cómo pueden protegerse las sociedades abiertas si estas nuevas tecnologías otorgan a los regímenes autoritarios una ventaja incorporada? Esa es la pregunta que me preocupa. Y también debería preocupar a todos aquellos que prefieren vivir en una sociedad abierta.
Las sociedades abiertas deben regular a las compañías que producen instrumentos de control, mientras que los regímenes autoritarios pueden declararlos "campeones nacionales". Eso es lo que ha permitido a algunas empresas estatales chinas alcanzar e incluso superar a los gigantes multinacionales.
Este, por supuesto, no es el único problema que debería preocuparnos hoy. Por ejemplo, el cambio climático provocado por el hombre amenaza la supervivencia misma de nuestra civilización. Pero la desventaja estructural que enfrentan las sociedades abiertas es un problema que me ha preocupado y me gustaría compartir con ustedes mis ideas sobre cómo lidiar con eso.
Mi profunda preocupación por este problema surge de mi historia personal. Nací en Hungría en 1930 y soy judía. Tenía 13 años cuando los nazis ocuparon Hungría y comenzaron a deportar a judíos a campos de exterminio.
Fui muy afortunado porque mi padre entendió la naturaleza del régimen nazi y organizó documentos de identidad falsos y escondites para todos los miembros de su familia, y también para otros judíos. La mayoría de nosotros sobrevivimos.
El año 1944 fue la experiencia formativa de mi vida. Aprendí a una edad temprana lo importante que es el tipo de régimen político que prevalece. Cuando el régimen nazi fue reemplazado por la ocupación soviética, dejé Hungría tan pronto como pude y encontré refugio en Inglaterra.
En la London School of Economics desarrollé mi marco conceptual bajo la influencia de mi mentor, Karl Popper. Ese marco demostró ser inesperadamente útil cuando encontré un trabajo en los mercados financieros. El marco no tiene nada que ver con las finanzas, pero se basa en el pensamiento crítico. Esto me permitió analizar las deficiencias de las teorías prevalecientes que guían a los inversores institucionales. Me convertí en un exitoso administrador de fondos de cobertura y me enorgullecía de ser el crítico mejor pagado del mundo.
Ejecutar un fondo de cobertura era muy estresante. Cuando gané más dinero del que necesitaba para mí o mi familia, sufrí una especie de crisis de la mediana edad. ¿Por qué debería suicidarme para ganar más dinero? Reflexioné mucho sobre lo que realmente me importaba y en 1979 establecí el Open Society Fund. Definí sus objetivos como ayudar a abrir sociedades cerradas, reducir las deficiencias de las sociedades abiertas y promover el pensamiento crítico.
Mis primeros esfuerzos se dirigieron a socavar el sistema de apartheid en Sudáfrica. Entonces volví mi atención a abrir el sistema soviético. Establecí una empresa conjunta con la Academia de Ciencias de Hungría, que estaba bajo el control comunista, pero sus representantes simpatizaban en secreto con mis esfuerzos. Este arreglo tuvo éxito más allá de mis sueños más salvajes. Me enganché a lo que llamo "filantropía política". Eso fue en 1984.
En los años siguientes, traté de reproducir mi éxito en Hungría y en otros países comunistas. Me fue bastante bien en el imperio soviético, incluida la propia Unión Soviética, pero en China fue una historia diferente.
Mi primer esfuerzo en China me pareció bastante prometedor. Se trataba de un intercambio de visitas entre economistas húngaros que eran muy admirados en el mundo comunista, y un equipo de un grupo de expertos chino recientemente establecido que estaba ansioso por aprender de los húngaros.
Sobre la base de ese éxito inicial, le propuse a Chen Yizi, el líder del think tank, replicar el modelo húngaro en China. Chen obtuvo el apoyo del primer ministro Zhao Ziyang y su secretario de políticas reformista Bao Tong.
Una empresa conjunta llamada Fondo de China se inauguró en octubre de 1986. Era una institución como ninguna otra en China. Sobre el papel, tenía completa autonomía.
Bao Tong fue su campeón. Pero los opositores de las reformas radicales, que eran numerosos, se unieron para atacarlo. Afirmaron que yo era un agente de la CIA y le pidieron a la agencia de seguridad interna que investigara. Para protegerse, Zhao Ziyang reemplazó a Chen Yizi con un oficial de alto rango en la policía de seguridad externa. Las dos organizaciones eran iguales y no podían interferir en los asuntos de la otra.
Aprobé este cambio porque estaba molesto con Chen Yizi por otorgar demasiadas becas a miembros de su propio instituto y no estaba al tanto de las luchas políticas entre bastidores. Pero los solicitantes del Fondo de China pronto se dieron cuenta de que la organización había estado bajo el control de la policía política y había comenzado a mantenerse alejada. Nadie tuvo el coraje de explicarme la razón de ello.
Finalmente, un concesionario chino me visitó en Nueva York y me dijo, con un riesgo considerable para sí mismo. Poco después, Zhao Ziyang fue removido del poder y usé esa excusa para cerrar la base. Esto sucedió justo antes de la masacre de la Plaza Tiananmen en 1989 y dejó un "punto negro" en el registro de las personas asociadas con la fundación. Hicieron todo lo posible para limpiar sus nombres y finalmente lo lograron.
En retrospectiva, está claro que cometí un error al tratar de establecer una fundación que operara de manera ajena a las personas en China. En ese momento, otorgar una subvención creó un sentido de obligación mutua entre el donante y el receptor y obligó a ambos a permanecer leales entre sí para siempre.
Tanto para la historia. Permítanme ahora referirme a los eventos que ocurrieron el año pasado, algunos de los cuales me sorprendieron.
Cuando empecé a ir a China, conocí a muchas personas en posiciones de poder que eran fervientes creyentes en los principios de la sociedad abierta. En su juventud habían sido deportados al campo para ser reeducados, a menudo sufriendo dificultades mucho mayores que las mías en Hungría. Pero sobrevivieron y teníamos mucho en común. Todos habíamos estado en el extremo receptor de una dictadura.
Estaban ansiosos por conocer los pensamientos de Karl Popper sobre la sociedad abierta. Si bien el concepto les pareció muy atractivo, su interpretación siguió siendo algo diferente a la mía. Estaban familiarizados con la tradición confuciana, pero no había tradición de votar en China. Su pensamiento siguió siendo jerárquico y tenía un respeto incorporado por el alto cargo. Yo, por otro lado, era más igualitario y quería que todos tuvieran un voto.
Entonces, no me sorprendió cuando Xi Jinping se topó con una seria oposición en casa; Pero me sorprendió la forma que tomó. En la convocatoria de líderes del verano pasado en la localidad costera de Beidaihe, Xi Jinping aparentemente fue derribado uno o dos puntos. Aunque no hubo un comunicado oficial, se rumoreaba que la convocatoria desaprobaba la supresión de los límites de los períodos y el culto a la personalidad que Xi había construido alrededor de sí mismo.
Es importante darse cuenta de que tales críticas fueron solo una advertencia para Xi sobre sus excesos, pero no revirtieron el levantamiento del límite de dos términos. Además, "El pensamiento de Xi Jinping", que promovió como su destilación de la teoría comunista, se elevó al mismo nivel que el "Pensamiento del presidente Mao". Por lo tanto, Xi sigue siendo el líder supremo, posiblemente de por vida. El resultado final de la lucha política actual sigue sin resolverse.
Me he concentrado en China, pero las sociedades abiertas tienen muchos más enemigos, entre ellos, la Rusia de Putin. Y el escenario más peligroso es cuando estos enemigos se conspiran y aprenden unos de otros sobre cómo oprimir mejor a su gente.
La pregunta se plantea, ¿qué podemos hacer para detenerlos?
El primer paso es reconocer el peligro. Es por eso que estoy hablando esta noche. Pero ahora viene la parte difícil. Aquellos de nosotros que queremos preservar la sociedad abierta debemos trabajar juntos y formar una alianza efectiva. Tenemos una tarea que no se puede dejar a los gobiernos.
La historia ha demostrado que incluso los gobiernos que quieren proteger la libertad individual tienen muchos otros intereses y también dan prioridad a la libertad de sus propios ciudadanos sobre la libertad del individuo como principio general.
Mis Open Society Foundations están dedicadas a proteger los derechos humanos, especialmente para aquellos que no tienen un gobierno que los defienda. Cuando empezamos hace cuatro décadas hubo muchos gobiernos que apoyaron nuestros esfuerzos, pero sus filas se han reducido. Los Estados Unidos y Europa fueron nuestros aliados más fuertes, pero ahora están preocupados por sus propios problemas.
Por lo tanto, quiero centrarme en lo que considero la pregunta más importante para las sociedades abiertas: ¿qué pasará en China?
La pregunta solo puede ser respondida por el pueblo chino. Todo lo que podemos hacer es hacer una distinción clara entre ellos y Xi Jinping. Desde que Xi ha declarado su hostilidad para abrir la sociedad, el pueblo chino sigue siendo nuestra principal fuente de esperanza.
Y hay, de hecho, motivos para la esperanza. Como algunos expertos en China me han explicado, hay una tradición confuciana, según la cual se espera que los asesores del emperador se expresen cuando están en total desacuerdo con una de sus acciones o decretos, incluso eso puede resultar en el exilio o la ejecución.
Esto fue un gran alivio para mí cuando había estado al borde de la desesperación. Los defensores comprometidos de la sociedad abierta en China, que tienen más o menos mi edad, se han retirado en su mayoría y sus lugares han sido ocupados por personas más jóvenes que dependen de Xi Jinping para su promoción. Pero ha surgido una nueva élite política que está dispuesta a defender la tradición confuciana. Esto significa que Xi continuará teniendo una oposición política en casa.
Xi presenta a China como un modelo a seguir para que otros países emulen, pero enfrenta críticas no solo en casa sino también en el extranjero. Su Iniciativa Belt and Road ha estado operando el tiempo suficiente para revelar sus deficiencias.
Fue diseñado para promover los intereses de China, no los intereses de los países receptores; sus ambiciosos proyectos de infraestructura fueron financiados principalmente por préstamos, no por donaciones, y los funcionarios extranjeros a menudo fueron sobornados para aceptarlos. Muchos de estos proyectos demostraron ser antieconómicos.
El caso icónico está en Sri Lanka. China construyó un puerto que sirve a sus intereses estratégicos. No logró atraer suficiente tráfico comercial para pagar la deuda y permitió a China tomar posesión del puerto. Hay varios casos similares en otros lugares y están causando un resentimiento generalizado.
Malasia está liderando el rechazo. El gobierno anterior encabezado por Najib Razak se vendió a China, pero en mayo de 2018, una coalición liderada por Mahathir Mohamed rechazó el cargo de Razak. Mahathir detuvo de inmediato varios grandes proyectos de infraestructura y actualmente está negociando con China la cantidad de compensación que aún tendrá que pagar Malasia.
La situación no es tan clara en Pakistán, que ha sido el mayor receptor de inversiones chinas. El ejército paquistaní está totalmente en deuda con China, pero la posición de Imran Khan, quien se convirtió en primer ministro en agosto pasado, es más ambivalente. A principios de 2018, China y Pakistán anunciaron planes grandiosos de cooperación militar. A finales de año, Pakistán estaba en una profunda crisis financiera. Pero una cosa se hizo evidente: China también tiene la intención de utilizar la Iniciativa Belt and Road con fines militares.
Todos estos contratiempos han obligado a Xi Jinping a modificar su actitud hacia la Iniciativa Belt and Road. En septiembre, anunció que los "proyectos de vanidad" se rechazarán en favor de iniciativas más cuidadosamente concebidas y en octubre, el People´s Daily advirtió que los proyectos deberían servir a los intereses de los países receptores.
Los clientes ahora están advertidos y varios de ellos, desde Sierra Leona hasta Ecuador, están cuestionando o renegociando proyectos.
Lo más importante es que el gobierno de los Estados Unidos ahora ha identificado a China como un "rival estratégico". El presidente Trump es notoriamente impredecible, pero esta decisión fue el resultado de un plan cuidadosamente preparado. Desde entonces, el comportamiento idiosincrásico de Trump ha sido superado en gran medida por una política de China adoptada por las agencias de la administración y supervisada por el asesor de asuntos asiáticos del Consejo de Seguridad Nacional Matt Pottinger y otros. La política fue delineada en un discurso seminal por el vicepresidente Mike Pence el 4 de octubre.
Aun así, declarar a China como un rival estratégico es demasiado simplista. China es un actor global importante. Una política efectiva hacia China no puede reducirse a un eslogan.
Debe ser mucho más sofisticado, detallado y práctico; y debe incluir una respuesta económica estadounidense a la Iniciativa Belt and Road. El plan de Pottinger no responde a la pregunta de si su objetivo final es nivelar el campo de juego o retirarse de China por completo.
Xi Jinping comprendió completamente la amenaza que la nueva política de los Estados Unidos representaba para su liderazgo. Participó en una reunión personal con el presidente Trump en la reunión del G20 en Buenos Aires. Mientras tanto, el peligro de una guerra comercial global se intensificó y el mercado de valores se embarcó en una venta masiva en diciembre. Esto creó problemas para Trump, que había concentrado todos sus esfuerzos en las elecciones intermedias de 2018. Cuando Trump y Xi se encontraron, ambas partes estaban ansiosas por un acuerdo. No es de extrañar que hayan alcanzado uno, pero no es concluyente: una tregua de noventa días.
Mientras tanto, hay indicios claros de que se está produciendo un declive económico de amplia base en China, que está afectando al resto del mundo. Una desaceleración global es lo último que el mercado quiere ver.
El contrato social tácito en China se basa en niveles de vida en constante aumento. Si el declive de la economía y el mercado de valores de China es lo suficientemente grave, este contrato social puede verse socavado e incluso la comunidad empresarial puede volverse contra Xi Jinping. Tal recesión también podría sonar la sentencia de muerte de la Iniciativa Belt and Road, porque Xi puede quedarse sin recursos para continuar financiando tantas inversiones que generan pérdidas.
Sobre la cuestión de la gobernanza global de internet, hay una lucha no declarada entre Occidente y China. China quiere dictar reglas y procedimientos que gobiernan la economía digital al dominar el mundo en desarrollo con sus nuevas plataformas y tecnologías. Esta es una amenaza para la libertad de Internet y para la propia sociedad abierta indirectamente.
El año pasado todavía creía que China debería estar más profundamente arraigada en las instituciones de gobierno global, pero desde entonces el comportamiento de Xi Jinping ha cambiado mi opinión. Mi opinión actual es que, en lugar de librar una guerra comercial con prácticamente todo el mundo, los Estados Unidos deberían centrarse en China. En lugar de dejar que ZTE y Huawei salgan a la ligera, necesita acabar con ellos. Si estas compañías llegaran a dominar el mercado 5G, presentarían un riesgo de seguridad inaceptable para el resto del mundo.
Lamentablemente, el presidente Trump parece estar siguiendo un rumbo diferente: hacer concesiones a China y declarar la victoria mientras renueva sus ataques a los aliados de Estados Unidos. Esto puede socavar el objetivo de la política estadounidense de frenar los abusos y excesos de China.
Para concluir, permítanme resumir el mensaje que voy a entregar esta noche. Mi punto clave es que la combinación de regímenes represivos con monopolios de TI otorga a esos regímenes una ventaja incorporada sobre las sociedades abiertas. Los instrumentos de control son herramientas útiles en manos de regímenes autoritarios, pero representan una amenaza mortal para las sociedades abiertas.
China no es el único régimen autoritario en el mundo, pero es el más rico, más fuerte y tecnológicamente más avanzado. Esto convierte a Xi Jinping en el oponente más peligroso de las sociedades abiertas. Por eso es tan importante distinguir las políticas de Xi Jinping de las aspiraciones del pueblo chino. El sistema de crédito social, si se hiciera operativo, le daría a Xi el control total sobre la gente. Dado que Xi es el enemigo más peligroso de la sociedad abierta, debemos poner nuestras esperanzas en el pueblo chino, especialmente en la comunidad empresarial y en una elite política dispuesta a defender la tradición confuciana.
Esto no significa que aquellos de nosotros que creemos en la sociedad abierta debemos permanecer pasivos. La realidad es que estamos en una guerra fría que amenaza con convertirse en una guerra caliente. Por otro lado, si Xi y Trump ya no estuvieran en el poder, se presentaría una oportunidad para desarrollar una mayor cooperación entre las dos superpotencias cibernéticas.
Es posible soñar con algo similar al Tratado de las Naciones Unidas que surgió de la Segunda Guerra Mundial. Este sería el final apropiado para el ciclo actual de conflicto entre los Estados Unidos y China. Reestablecería la cooperación internacional y permitiría el florecimiento de sociedades abiertas. Eso resume mi mensaje.
Más grandes historias WIRED
FUENTE ORIGINAL DEL ARTICULO LOS MEJORES SITIOS DE TECNOLOGIA https://www.beviral.online
Comentarios
Publicar un comentario