Esta historia apareció originalmente en The Algorithm, nuestro boletín semanal sobre IA. Para recibir primero historias como esta en su bandeja de entrada, Regístrate aquí.
Dragoș Tudorache se siente muy bien. Estamos sentados en una sala de conferencias en un castillo con vistas a un lago en las afueras de Bruselas, bebiendo copas de cava. El miembro liberal rumano del Parlamento Europeo pasó el día organizando una conferencia sobre inteligencia artificial, defensa y geopolítica a la que asistieron casi 400 invitados VIP. El día casi ha terminado y Tudorache ha prometido concederme una entrevista durante la hora del cóctel.
Tudorache, ex ministro del Interior, es uno de los actores más importantes de la política europea de IA. Es uno de los dos principales negociadores de la Ley de IA en el Parlamento Europeo. El proyecto de ley, la primera ley radical de este tipo en el mundo sobre IA, entrará en vigor este año. Nos conocimos por primera vez hace dos años, cuando Tudorache fue nombrado negociador.
Pero el interés de Tudorache por la IA comenzó mucho antes, en 2015. Dice que al leer el libro de Nick Bostrom Superinteligencia, que explora cómo se podría crear una superinteligencia de IA y cuáles podrían ser sus implicaciones, le hizo darse cuenta del potencial y los peligros de la IA y de la necesidad de regularla. (Bostrom se ha visto envuelto recientemente en un escándalo por expresar opiniones racistas en correos electrónicos descubiertos en los años 90. Tudorache dice que no está al tanto de la carrera de Bostrom después de la publicación del libro y no hizo comentarios sobre la controversia).
Cuando fue elegido miembro del Parlamento Europeo en 2019, dice, llegó decidido a trabajar en la regulación de la IA si se presentaba la oportunidad.
«Cuando escuché [Ursula] Von der Leyen [the European Commission president] «Cuando dijo en su primer discurso ante el Parlamento que habría una regulación de la IA, dije: ‘Vaya, este es mi momento’”, recuerda.
Desde entonces, Tudorache ha presidido un comité especial sobre IA y ha guiado la Ley de IA a través del Parlamento Europeo hasta su forma final tras negociaciones con otras instituciones de la UE.
Ha sido un viaje salvaje, con intensas negociaciones, el auge de ChatGPTlobby de empresas tecnológicas y Cambios radicales en algunas de las economías más grandes de Europa. Pero ahora que la Ley de IA se ha convertido en ley, el trabajo de Tudorache está hecho y desempolvado, y dice que no se arrepiente. Aunque la ley ha sido criticada (tanto por la sociedad civil por no proteger suficientemente los derechos humanos como por la industria por ser demasiado restrictiva), Tudorache dice que su forma final fue el tipo de compromiso que esperaba. Después de todo, la política es el arte del compromiso.
“Habrá que construir mucho el avión mientras vuela, y habrá mucho que aprender mientras lo hace”, afirma. «Pero si todos los interesados comprenden bien el verdadero espíritu de lo que queremos decir con la legislación, creo que el resultado puede ser positivo».
Aún es pronto: la ley entrará plenamente en vigor dentro de dos años. Pero Tudorache cree que mejorará la industria tecnológica e iniciará un proceso en el que las empresas comenzarán a tomar en serio la IA responsable gracias a las obligaciones legalmente vinculantes para que las empresas de IA sean más transparentes sobre cómo se construyen sus modelos. (escribí sobre el Cinco cosas que debes saber sobre la Ley de IA hace un par de meses aquí.)
“El hecho de que ahora tengamos un plan para establecer los límites correctos, dejando al mismo tiempo espacio para la innovación, es algo que será útil para la sociedad”, afirma Tudorache. También será útil para las empresas, afirma, porque ofrece un camino predecible sobre lo que se puede y no se puede hacer con la IA.
Pero la Ley de IA es solo el comienzo, y todavía hay muchas cosas que mantienen despierto a Tudorache por la noche. La IA está marcando el comienzo de grandes cambios en todas las industrias y sociedades. Lo cambiará todo, desde la atención sanitaria hasta la educación, el trabajo, la defensa e incluso la creatividad humana. La mayoría de los países no han comprendido lo que la IA significará para ellos, afirma, y ahora la responsabilidad recae en los gobiernos de garantizar que los ciudadanos y la sociedad en general estén preparados para la era de la IA.
“El momento decisivo… comienza ahora”, dice.
Únase a Dragoș Tudorache ya mí en Emtech Digital Londres ¡Del 16 al 17 de abril! Tudorache le explicará lo que las empresas deben tener en cuenta con la Ley de IA en este momento. ¡Te veo la próxima semana!
Ahora lee el resto de El algoritmo.
Aprendizaje más profundo
Una conversación con el primer artista residente de OpenAI
El trabajo de Alex Reben es a menudo absurdo, a veces surrealista: una mezcla de orejas gigantes imaginadas por DALL-E y esculpidas a mano en mármol; quemaduras críticas generadas por ChatGPT que burlan el arte de la IA. Pero su mensaje es relevante para todos. Reben está interesado en los roles que desempeñan los humanos en un mundo lleno de máquinas y en cómo esos roles están cambiando. También es el primer artista residente de OpenAI.
Conoce al artista: Oficialmente, el nombramiento comenzó en enero y tiene una duración de tres meses. Pero ya lleva años trabajando con OpenAI. Nuestro editor senior de IA, Will Douglas Heaven, se sentó con Reben para hablar sobre el papel que la IA puede desempeñar en el arte y la reacción negativa de los artistas. Leer más aquí.
Bits y Bytes
Es fácil alterar las marcas de agua del texto generado por IA
Los investigadores han descubierto que las marcas de agua para el texto generado por IA son fáciles de eliminar y pueden ser robadas y copiadas, volviéndolas inútiles. Dicen que este tipo de ataques desacreditan las marcas de agua y pueden engañar a las personas para que confien en textos que no deberían. Es un hallazgo especialmente significativo porque muchas regulaciones en todo el mundo, incluida la Ley de IA, están apostando fuertemente por el desarrollo de marcas de agua para rastrear el contenido generado por IA. (Revisión de tecnología del MIT)
Cómo tres cineastas crearon los impresionantes últimos vídeos de Sora
En el último mes, un puñado de cineastas probaron el nuevo modelo de IA generativa de OpenAI, Sora. Los resultados son sorprendentes. Los cortometrajes son un gran avance incluso con respecto a los videos de demostración cuidadosamente seleccionados que OpenAI usó para burlarse de Sora hace apenas seis semanas. Así es como lo hicieron tres de los cineastas. (Revisión de tecnología del MIT)
¿Qué sigue para el vídeo generativo?
El vídeo generativo probablemente revolucionará una amplia gama de empresas y cambiará los roles de muchos profesionales, desde animadores hasta anunciantes. También aumentan los temores de que se produzca un mal uso. La capacidad generalizada de generar vídeos falsos hará que sea más fácil que nunca inundar Internet con propaganda y pornografía no consensuada. Podemos verlo venir. El problema es que nadie tiene una buena solución. (Revisión de tecnología del MIT)
Google está considerando cobrar por las búsquedas basadas en IA
En una posible reestructuración importante del modelo de negocios de Google, el gigante tecnológico está considerando poner funciones de búsqueda impulsadas por inteligencia artificial detrás de un muro de pago. Pero considerando cómo Los resultados de búsqueda de IA no son confiablesno está claro si la gente querrá pagar por ellos. (Tiempos financieros)
La lucha por el talento de la IA se intensifica
A medida que los despidos se extienden por el sector tecnológico, los trabajos de IA siguen estando muy de moda. Los gigantes tecnológicos están luchando entre sí por los mejores talentos, ofreciendo incluso salarios de siete cifras y cazando furtivamente equipos de ingeniería completos con experiencia en IA generativa. (Wall Street Journal)
Dentro de la carrera clandestina de las Big Tech para comprar datos de entrenamiento de IA
Los modelos de IA deben entrenarse en conjuntos de datos masivos, y las grandes empresas de tecnología están pagando silenciosamente por datos, registros de chat y fotografías personales ocultas detrás de muros de pago y pantallas de inicio de sesión. (Reuters)
Cómo los gigantes tecnológicos toman atajos para recopilar datos para la IA
Las empresas de IA hijo quedarse sin datos de entrenamiento de calidad por sus enormes modelos de IA. Para recopilar más datos, empresas de tecnología como OpenAI, Google y Meta han tomado atajos, ignorando las políticas corporativas y debatido sobre cómo doblar la ley, la New York Times encontrado. (New York Times)
