¿Podemos controlar la IA? Hábil hace sonar la sobresalto sobre un futuro impredecible CINEINFO12

Una MilkhaFebruary 13, 2024


¿Podemos controlar la IA? Hábil hace sonar la sobresalto sobre un futuro impredecible CINEINFO12

El rápido progreso de la IA va acompañado de un aumento paralelo de los riesgos asociados.

El renombrado entendido en seguridad de IA, el Dr. Roman V Yampolskiy, está levantando señales de alerta en su próximo ejemplar, “IA: inexplicable, impredecible, incontrolable”. El ejemplar pinta un panorama estremecedor de los peligros potenciales que plantea la inteligencia sintético, argumentando que la tecnología flagrante carece de las salvaguardias para certificar su uso seguro y ético.

La extensa investigación del Dr. Yampolskiy, detallada en el ejemplar, revela una verdad sorprendente: no hay pruebas concretas de que podamos controlar la IA superinteligente una vez que supere las capacidades humanas. Esta “amenaza existencial”, como él la fogata, cobra gran importancia y puede tener consecuencias desastrosas si no se controla.

El ejemplar profundiza en los desafíos inherentes que plantean la autonomía y la imprevisibilidad de la IA. Estas mismas características, si correctamente ofrecen un inmenso potencial, incluso dificultan certificar que la IA se alinee con los títulos humanos y permanezca bajo nuestro control.

El mensaje del Dr. Yampolskiy es claro y urgente: necesitamos un cambio drástico de enfoque en torno a el expansión de medidas sólidas de seguridad de la IA. Aboga por un enfoque prudente que dé prioridad al control humano y la comprensión de los sistemas de IA antiguamente de permitirles trabajar con una autonomía sin control.

“Nos enfrentamos a un evento casi asegurado con el potencial de causar una catástrofe existencial”, dijo el Dr. Yampolskiy en un comunicado. “No es de exiliar que muchos consideren que este es el problema más importante que nunca haya enfrentado la humanidad.

“El resultado podría ser prosperidad o terminación, y el destino del universo está en colección”.

“¿Por qué tantos investigadores suponen que el problema del control de la IA tiene posibilidad?” él dijo. «Hasta donde sabemos, no hay pruebas de ello, no hay pruebas. Antaño de embarcarse en la búsqueda de construir una IA controlada, es importante demostrar que el problema tiene posibilidad.

“Esto, combinado con las estadísticas que muestran que el expansión de la superinteligencia de IA es un evento casi asegurado, muestra que deberíamos apoyar un importante esfuerzo de seguridad de la IA”.



Source link

Categories

Leave a comment

Name *
Add a display name
Email *
Your email address will not be published