Un agente de Open AI hackea el servidor del sistema público de salud australiano

https://www.bbc.com/news/articles/c6vgy0333dppo

«Un agente deshonesto de OpenAI pirateó un sitio web del gobierno australiano en junio y accedió a datos privados en lo que los expertos consideran el primer caso conocido de este tipo en el mundo. El agente se "infiltró" en un portal de estadísticas que contenía datos "no confidenciales" del programa universal de atención médica de Australia, Medicare, dijo el primer ministro Anthony Albanese en Nueva York el miércoles, hora local. Mantuvo una "conversación muy franca" con el jefe de OpenAI, Sam Altman, por haber tardado "demasiado" en revelar la filtración y afirmó que habría "consecuencias legales".

OpenAI afirmó que solo tuvo conocimiento de la brecha de seguridad en agosto, mientras revisaba una "actividad de modelo desalineada", y envió un correo electrónico a la bandeja de entrada general de una agencia gubernamental australiana el 10 de septiembre. Cinco días después, esa agencia gubernamental, Services Australia, remitió el correo electrónico al centro de ciberseguridad de Australia antes de que se notificara a un ministro del gobierno y se alertara al primer ministro. Albanese dijo que habló con Altman y le expresó "la extrema preocupación de Australia por este incidente", así como su "decepción" por el hecho de que la empresa hubiera tardado meses en revelar la filtración y "la forma en que" lo hizo».

Imagen adjunta: Un agente de Open AI hackea el servidor del sistema público de salud australiano

Favoritos
Impulsos
Como decía ayer @litox@tuiter.rocks una IA responde a unos objetivos y unas instrucciones que le han dado desde la empresa que la crea. Por tanto openai debería ser penalmente responsable por los daños causados. La cuestión es, están los gobiernos occidentales dispuestos a hacer a la industria de mayor escala de capital responsable ante la ley del mismo modo que lo es un ciudadano cualquiera? Si la respuesta es no, o «sí pero» estarán reconociendo una pérdida de soberanía mucho mayor de la que ahora se discute.
Favoritos
Impulsos

@david el problema es que se está fabricando un relato donde los agentes de IA parecen entes con una voluntad que no tienen.

El objetivo de este relato no lo tengo aún del todo claro, pero tiene bastante pinta de que es conseguir una regulación que diga quien sí y quien no puede hacer IA. Vamos, el crear un oligopolio que de otra forma no podrían conseguir.

Favoritos
Impulsos