¿Amenaza IA? ChatGPT crean un equipo para evitar «riesgos catastróficos»
OpenAI, la compañía creadora de ChatGPT, formó un nuevo equipo de trabajo para mitigar "riesgos catastróficos" asociados con inteligencia artificial. La empresa dice que van a "seguir, evaluar, prever y proteger" contra cualquier problema potencial causado por IA, incluso amenazas nucleares.
El equipo también espera mitigar "amenazas químicas, biológicas y radiológicas", así como "replicación autónoma", o el acto de una IA replicándose a si misma. Otros riesgos que el grupo piensa evaluar incluye la capacidad de la IA para engañar humanos y amenazas de ciberseguridad.
"Creemos que los modelos de IA que vienen, y van a exceder las capacidades que tienen hoy los más avanzados, tienen el potencial para beneficiar a toda la humanidad", escribió OpenAI en el anuncio que advierte: "Pero también poseen riesgos cada vez más severos".
Este grupo será liderado por Aleksander Madry, que dejerá su rol cómo director del centro de Machine Learning de MIT. OpenAI informó que el equipo también mantendrá una política de desarrollo de informes de riesgo, que dara cuenta de lo que la compañía hace para evaluar y monitorear modelos de inteligencia artificial.
Histórico: la inteligencia artificial ya podría detectar el Parkinson
No existe un examen de diagnóstico para esta enfermedad. Los doctores usan el historial del paciente y un examen neurológico para diagnosticarlo. Sin embargo, el desarrollo de la inteligencia artificial está llegando a límites inimaginables en el campo de la medicina. Un equipo de científicos logró desarrollar un sistema con inteligencia artificial para detectar enfermedades como el párkinson analizando la edad molecular del ojo humano.
Los autores del estudio aseguran que su hallazgo puede servir para detectar estas enfermedades antes de lo que suelen diagnosticarse. Por lo que sería posible desarrollar medicamentos contra el envejecimiento dirigidos a órganos específicos.
Fuente: Ambito
La entrada ¿Amenaza IA? ChatGPT crean un equipo para evitar "riesgos catastróficos" se publicó primero en Sin Mordaza.
