Cómo se utiliza la IA para resucitar a políticos indios muertos mientras se avecinan las elecciones CINEINFO12

Una MilkhaFebruary 12, 2024


Bangalore, India – El 23 de enero, un ícono del cine y la política indios, M. Karunanidhi apareció delante una audiencia en vivo en una gran pantalla proyectada para felicitar a su amigo y colega político TR Baalu, de 82 abriles, por el emanación de su ejemplar autobiográfico.

Vestido con sus características antiparras de sol negras, camisa blanca y un chal amarillo sobre los hombros, el estilo de Karunanidhi fue acertado. En su discurso de ocho minutos, el fogueado poeta convertido en político felicitó al autor del ejemplar, pero incluso fue apasionado en sus elogios por el capaz liderazgo del diputado Stalin, su hijo y presente líder del estado.

Karunanidhi ha estado muerto desde 2018. Esta fue la tercera vez, en los últimos seis meses, que el icónico líder del partido Dravida Munnetra Kazhagam (DMK) resucitó utilizando inteligencia industrial (IA) para eventos públicos de este tipo.

“Cuando la pandemia de COVID asoló el mundo, nuestro Ministro Principal corrió en dirección a las voces aterrorizadas de la muchedumbre”, dijo Karunanidhi. “La nación sabe la forma en que lucharon para exceptuar las vidas de las personas, y yo incluso”.

Senthil Nayagam, fundador de Muonium, la empresa de tecnología de medios de inteligencia industrial que hizo el video deepfake de Karunanidhi, dijo a Al Jazeera que “hay una transigencia del mercado”. [for such deepfakes]…. Puedes atribuir algunas declaraciones a una persona en particular y eso le da más valía”.

La primera aparición pública de AI Karunanidhi fue en un evento de medios locales en septiembre del año pasado, al que siguió otro para una campaña de miembros de su partido. El líder resucitado a menudo felicita a los trabajadores del partido y elogia específicamente el liderazgo de su hijo, el diputado Stalin, con el objetivo de aumentar su popularidad.

En el emanación del ejemplar en enero, AI Karunanidhi contó todo, desde la condonación de deudas estudiantiles y donaciones de moneda en efectivo para los pobres, hasta políticas favorables a las mujeres y la captación de inversiones: una relación de los logros de su hijo a lo generoso de los abriles que habían impulsado al estado cerca de delante.

La última entrevista pública de Karunanidhi fue en 2016, ayer de que su voz se volviera áspera y su cuerpo frágil. Nayagam utilizó datos disponibles públicamente sobre Karunanidhi para entrenar un maniquí de discurso y recreó la imagen del líder de la división de 1990 cuando era mucho más chavea. El banderín del discurso pregrabado de AI, dijo, fue proporcionado por el cuadro lugar del DMK y fue examinado por el personal del partido.

TR Baalu, cuyo equipo aprobó la creación de AI Karunanidhi, no respondió a la solicitud de comentarios de Al Jazeera.

Karunanidhi fue uno de los legisladores con más abriles de servicio en la India y dirigió el estado de Tamil Nadu durante casi dos décadas, cumpliendo un total de cinco mandatos como primer ministro. El poeta convertido en político escribió guiones sobre la emancipación de las castas inferiores y continúa ejerciendo influencia entre los votantes de viejo momento.

Según informes de los medios locales, la reacción a estos videos de IA ha llevado a los líderes del partido DMK a pensar en crear discursos de campaña de AI Karunanidhi en la próxima campaña para las elecciones parlamentarias de 2024.

Incluso mientras los formuladores de políticas evalúan ejemplos de los tipos de comunicación de IA que deberían regularse, en un uso único en su tipo, un partido político utilizó la IA para resucitar a un incondicional político de ayer para promover al líder de hoy.

Pero incluso ha planteado algunas cuestiones éticas y legales preocupantes: “El uso de IA para crear audio y video sintéticos por parte de una persona viva que ha ratificado el contenido es una cosa. Otra muy distinta es resucitar a una persona muerta y atribuirle opiniones”, dijo Amber Sinha, investigadora principal de Trustworthy AI en la Fundación Mozilla.

Pero el carácter ya salió de la botella. Según Diggaj Mogra, director de Jarvis Consulting, una de las consultoras políticas más grandes de la India, el marketing de contenidos facilitado por la IA para las campañas electorales, incluidas las llamadas de voz y SMS salientes, la creación de avatares, la difusión personalizada en los medios y las creatividades multilingües creadas por la IA en las redes sociales, es una oportunidad de mercado estimada en 60 millones de dólares en la India este año electoral.

“En Tamil Nadu, todos los grandes líderes de cada partido ya no existen”, dijo Nayagam, refiriéndose a los ex actores convertidos en políticos Jayalalitha, MG Ramachandran y Vijayakanth. Nayagam dijo que ha estado en contacto con varios funcionarios de bajo nivel de todos los partidos interesados ​​en usar la IA para deepfakes similares.

El interés en este tipo de aplicaciones se disparó, dijo, luego de que el año pasado compartió en X en septiembre un clip de audio de cuatro minutos del software Mann Ki Baat del Primer Ministro Narendra Modi que su empresa había clonado en ocho idiomas. Esas investigaciones de interés le han hexaedro a Nayagam y a otros consultores la idea de una oportunidad de negocio en la campaña electoral de IA.

A nivel mundial, más de 60 países celebrarán elecciones nacionales en 2024, y el posible uso indebido de la inteligencia industrial para influir en la opinión pública ha provocado un pánico honrado, convirtiéndose en un tema candente a nivel mundial.

Antiguamente de la campaña presidencial de Indonesia, Prabowo Subianto, un ex genérico marcial dibujado de cometer atrocidades contra activistas a valenza de la democracia, está utilizando IA generativa para reinventarse como un altibajo de IA de mejillas regordetas, para atraer a votantes jóvenes.

En el sur de Asia, el uso de la IA para campañas y casos de uso indebido ha reses importancia. En Bangladesh, las cuentas progubernamentales han utilizado deepfakes para atacar a los partidos de concurso. En Pakistán, el ex primer ministro Imran Khan ha estado haciendo campaña desde el interior de su celda de prisión pasando notas escritas a sus abogados, que se están convirtiendo en discursos de audio de inteligencia industrial utilizando software de la nueva empresa estadounidense ElevenLabs.

“Este uso particular de la IA en campañas parece estar despegando a lo holgado en el sur de Asia”, dijo Sinha de la Fundación Mozilla.

El 21 de enero, el partido DMK organizó su segunda conferencia anual del ala rozagante en la ciudad templo de Salem. El megaevento celebrado en un estadio extenso atrajo a una multitud de 500.000 seguidores y marcó el emanación oficial de la campaña electoral de 2024 del DMK. Los líderes del partido ofrecieron discursos conmovedores desafiando al nacionalista hindú Bharatiya Janata Party (BJP) y criticaron sus políticas, incluida la dilución de los poderes de los estados por parte del centro gobernado por el BJP.

En esta campaña, AI Karunanidhi hizo una reaparición sorpresa en un vídeo. “Muchos derechos de estados por los que se ha luchado duramente se han perdido durante los 10 abriles de gobierno del BJP”, dijo Karunanidhi, explicando la continua hostilidad del BJP cerca de Tamil Nadu.

El discurso en vídeo de tres minutos, acompañado de música inspiradora, concluye con AI Karunanidhi pidiendo el fortalecimiento de los derechos del Estado e instando a los cuadros jóvenes a disputar por un futuro tolerante.

Karunanidhi AI_ala juvenil
Captura de pantalla de AI Karunanidhi en la segunda conferencia anual del ala rozagante de DMK

“Esto fue creado por el ala de medios digitales del partido para alentar y entusiasmar a los cuadros”, dijo a Al Jazeera el portavoz del DMK, Dharanidharan Selvam. “Creo que los cuadros estaban definitivamente entusiasmados y emocionados”.

Los líderes fallecidos están de moda en las campañas políticas “porque siguen siendo más populares que los vivos”, dijo Sumanth Raman, comentarista político con sede en Chennai. “No hay líderes de masas del calibre de la señora Jayalalitha” – otra suerte política – “o del señor Karunanidhi en Tamil Nadu en este momento”.

En los últimos 30 abriles, actores del estado han fundado más de media docena de partidos políticos. Muchos líderes procedían del mundo del cine, donde interpretaban personajes gigantes, dijo Raman, y la muchedumbre siempre los ponía en un pedestal.

“Pero eso se adapta cuando pasamos a la subsiguiente concepción, que es donde nos encontramos ahora. Los líderes enfrentan un exploración mucho viejo en el día a día y, por lo tanto, no hay una gran aura sobre eso”, dijo.

'Disfrutar la popularidad de una persona muerta'

El impacto en las audiencias de la resurrección de líderes icónicos aún se está manifestando. “Creo que fue un esfuerzo conveniente global: fue para los hombres de su partido, así que lo aplaudieron”, dijo Raman, sobre el discurso en video de AI. “La IA presente es capaz de gestar imágenes aún mejores”.

En el caso del vídeo de presentación del ejemplar, está claro que el vídeo es sintético, ya que la sincronización de labios no coincide del todo. Sin secuestro, el audio de la voz de Karunanidhi refleja la existencia.

Nayagam, el creador de AI Karunanidhi, dijo que una de las razones de las imágenes imperfectas era la errata de disponibilidad de conjuntos de datos de video de reincorporación calidad, lo que los obligó a apañarse todo lo que estuviera apto en Internet.

El video transmitido en la conferencia rozagante fue mejor, pero fue inconsistente cerca de la boca. Aún así, la respuesta de la audiencia en radio a los videos fue conveniente, y algunos comentaron “súper” en YouTube. Los dos videos estaban claramente etiquetados como generados por IA.

India fue declarante del primer uso de deepfakes en campañas electorales en 2020, cuando el político del BJP Manoj Tiwari autorizó la creación y distribución de videos deepfake de él mismo haciendo campaña en haryanvi e inglés, idiomas que no palabra. Los expertos criticaron el video, pero argumentaron que fue manipulado por IA, basándose en que se compartió sin revelarlo.

Se puede argumentar que la creación de vídeos de políticos con IA es una extensión del uso de fotografías o imágenes de personas muertas por parte de sus partidos políticos, dijo Sinha, como el uso de imágenes de Nehru, Indira Gandhi o Rajiv Gandhi luego de sus muertes a manos de la India. Congreso Franquista.

“Sin secuestro, la creación de audio o vídeo sintético va mucho más allá”, afirmó Sinha. “En entreambos casos, el partido intenta usar la popularidad de una persona fallecida, pero en el segundo, se le atribuyen activamente opiniones y mensajes”.

Un enigma adicional a la hora de resucitar a un político fallecido es: ¿quién posee los derechos sobre la voz y la imagen del difunto?

“Esto, por supuesto, no tiene fundamento reglamentario en la India, porque no tenemos ningún derecho consagrado a las personas fallecidas en la India, pero desde un punto de aspecto ético, se debe considerar el consentimiento”, dijo Devika Malik, una Consejero de políticas tecnológicas con sede en Delhi centrado en la confianza y la seguridad en radio. La ley india ofrece protección reglamentario contra la difamación de una persona fallecida.

Los políticos indios incluso están buscando activamente soluciones de inteligencia industrial para las próximas campañas. Mogra, de Jarvis Consulting, dijo que los candidatos individuales están intentando utilizar clones de voz de IA para impulsar llamadas automáticas salientes o IVRS (Sistema de respuesta de voz interactiva) con voz grabada y nombres personalizados en sus mensajes. “Hay varios proveedores recorriendo el país para hacer esto, vendiéndolo a precios muy nominales”, dijo Mogra.

Ya existía una floreciente patrimonio de medios sintéticos basada en el uso competente de deepfakes por parte de actores y directores ejecutivos, y ese mercado se ha expandido al ámbito político. Consultoras como Polymath Solutions, operada por Devendra Singh Jadoun, están utilizando la clonación de voz para cursar “mensajes personalizados” de los políticos a los trabajadores del partido en el contorno.

“Se utilizará masivamente en estas elecciones”, afirmó Mogra. Sin secuestro, “es un arsenal de doble filo. Creará mucha desinformación y desinformación. Creo que los beneficios son menores y los problemas de información errónea y desinformación serán mayores”.

Desde el punto de aspecto del impacto social, aún no está claro hasta qué punto estos videos de inteligencia industrial (incluso los mal hechos) podrían moldear las actitudes de los votantes.

Incluso cuando dichos videos no son de reincorporación calidad, “en el caso de un ex orador popular como M Karunanidhi, puede gestar más luceros para el mensaje y ayudar a que se vuelva virulento”, dijo Sinha.

Su última investigación destaca cómo los “actores difusos” o consultores políticos, que a pesar de no estar afiliados a ningún partido, colaboran con campañas para difundir su mensaje.

Disfrutar los llamamientos sentimentales de personas incondicionales o familias específicas (especialmente cuando se personalizan y se envían por WhatsApp) puede ser una táctica de comunicación eficaz y podría influir en la opinión de los votantes, añadió Malik.

Pero las perspectivas de los defensores y profesionales de las políticas divergen marcadamente sobre la efectividad de los medios sintéticos.

Mogra, de Jarvis, predice que el coeficiente de novedad de los mensajes personalizados de los políticos basados ​​en inteligencia industrial (ya sea audio o video) se agotará pronto. “Si la muchedumbre empieza a verlo mucho, se darán cuenta de que está sucediendo en todas partes, y lo están viendo en todas partes, tal como sucedió con WhatsApp”, dijo.

Anteriormente, los partidos políticos pusieron específico realce en la creación de grupos de WhatsApp para divulgación. Ahora todo el mundo sabe que cada persona forma parte de cientos de grupos y nadie presta mucha atención ni lee todos los chats.

“Creo que enfrentaremos problemas similares a una velocidad mucho más rápida con estas soluciones y casos de uso de IA generativa”, dijo Mogra.



Source link

Categories

Leave a comment

Name *
Add a display name
Email *
Your email address will not be published