Meta se enfrenta a un problema de seguridad después de un Según los informes, el agente de IA se volvió rebelde y expuso información confidencial de la empresa a empleados que no tenían permiso para acceder a ella. Según los informes, esto sucedió después de que un ingeniero le pidió al agente de IA que evaluara y respondiera una pregunta. Sin embargo, cabe señalar que esto aún no ha sido verificado por la empresa.
Un informe afirma que Meta enfrentó problemas con uno de sus agentes de IA. Se volvió deshonesto y expuso información confidencial a ingenieros que no tenían autorización para acceder a los datos.
Según lo compartido por The Information, el informe del incidente indicó que un empleado de Meta publicó en un foro interno pidiendo ayuda con una pregunta técnica, lo que supuestamente es una acción estándar. Sin embargo, según los informes, otro ingeniero le pidió a un agente de inteligencia artificial que lo ayudara a analizar la pregunta. Luego, el agente de IA hizo algo fuera del circuito y publicó una respuesta sin preguntarle al ingeniero.
El agente de IA no dio la respuesta correcta y el empleado que trabajó en la sugerencia, sin darse cuenta, entregó una enorme cantidad de datos confidenciales de la empresa a ingenieros que no tenían permiso de acceso. Esto duró dos horas.
Según los informes, Meta lo denominó “Sev 1”. Este es el segundo nivel más alto de gravedad en el sistema interno de la empresa para problemas de seguridad. Sin embargo, muchos detalles sobre el incidente siguen siendo escasos hasta el momento.
Mientras tanto, la portavoz de Meta, Tracy Clayton, dijo a The Verge que “ningún dato de usuario fue mal manejado” durante la violación. “El empleado que interactuaba con el sistema era plenamente consciente de que se estaba comunicando con un robot automatizado. Esto fue indicado por un descargo de responsabilidad anotado en el pie de página y por la propia respuesta del empleado en ese hilo”, explicó además.
Clayton continuó: “El agente no tomó ninguna medida aparte de responder a una pregunta. Si el ingeniero que actuó en consecuencia hubiera sabido mejor o hubiera realizado otras comprobaciones, esto se habría evitado”.
Antes de esto, se informó que otros agentes deshonestos causaron problemas en Meta. Summer Yue, directora de seguridad y alineación de Meta Superintelligence, también publicó sobre esto en X.
En particular, sigue habiendo preocupación por los agentes de inteligencia artificial deshonestos en todo el mundo y en muchas otras empresas. Esta amenaza también está creciendo con el desarrollo de la inteligencia artificial, ya que está adquiriendo un papel central en muchas operaciones y funciones importantes.
Reportado originalmente por Sourav Chakraborty en Mandatory.
Thank You For Your Vote!
Sorry You have Already Voted!