Worth passing on?
Select any line in the story to share just that line. Or keep it for later and find it under Saved.
Read the original at Xataka
xataka.com
Fetching the latest from every source…
Brad Smith, presidente de Microsoft: "Ahora mismo, tu lavadora está sujeta a más normas de seguridad que la IA"
Brad Smith, presidente de Microsoft, ha prestado declaración recientemente sobre cómo está el panorama de la IA en términos de regulación.
By Antonio Vallejo 3 min read
Key points
- Brad Smith, presidente de Microsoft, ha prestado declaración recientemente sobre cómo está el panorama de la IA en términos de regulación.
- En declaraciones al podcast Big Boss Interview de la BBC, Smith contaba que "ahora mismo, tu lavadora está sujeta a más normas de seguridad que la IA", añadiendo además que cada cartón de leche en un supermercado está sujeto a normas de seguridad e inspección.
- Brad Smith, presidente de Microsoft: "Ahora mismo, tu lavadora está sujeta a más normas de seguridad que la IA" fue publicada originalmente en Xataka por Antonio Vallejo .
The story
Brad Smith, presidente de Microsoft, ha prestado declaración recientemente sobre cómo está el panorama de la IA en términos de regulación. La cosa no está para tirar cohetes, y el propio Smith sostiene que hasta un cartón de leche tiene más protocolos de seguridad que los mayores sistemas de IA más potentes del mundo (que por otra parte, no es un punto tan polémico teniendo en cuenta que es algo que ingerimos en nuestro día a día). Smith pide normas globales precisamente en un momento en que la Casa Blanca prefiere que la industria se autorregule.
Choque frontal. Smith representa una de las posiciones más importantes de una de las empresas más profundamente involucradas en la IA. Microsoft opera infraestructura de IA, además de ser accionista de OpenAI. Así que su petición sitúa a la empresa en desacuerdo con la postura del presidente Donald Trump, quien declaraba que el sector debería regularse a sí mismo para que las empresas estadounidenses no pierdan terreno en la carrera de la IA frente a China.
Lo que dice. En declaraciones al podcast Big Boss Interview de la BBC, Smith contaba que "ahora mismo, tu lavadora está sujeta a más normas de seguridad que la IA", añadiendo además que cada cartón de leche en un supermercado está sujeto a normas de seguridad e inspección. Describió la IA tanto como una "herramienta como un arma" y dijo que la tecnología está avanzando "más rápido que la velocidad de la seguridad".
En Xataka
Meta presenta Muse Wonder y Muse Wonder Full, sus modelos de IA más punteros para ponerse en la frontera de la tecnología
Lo que quiere. Smith estableció tres medidas:
Un freno de emergencia. Permitiría a las empresas pausar o ralentizar un sistema de IA que se descontrole. Smith afirmaba durante la entrevista que debería aplicarse a los sistemas que controlan dispositivos autónomos o infraestructuras críticas, y recaer en las empresas que ejecutan los modelos y la infraestructura de nube que hay detrás de ellos. Es una medida a la que el propio Satya Nadella, CEO de Microsoft, hizo referencia también recientemente.
Informes de incidentes obligatorios. Si un agente de IA descontrolado o deshonesto entra furtivamente en un sistema, se debe avisar a la "víctima", de forma muy similar a como ya se exige a las organizaciones notificar a sus clientes cuando ha habido una brecha de seguridad.
Aprobación independiente antes del lanzamiento. Smith califica esta medida como la más importante, insistiendo en que los evaluadores del gobierno examinarían los modelos de frontera antes de que lleguen al público, como ya ocurre con productos como los aviones comerciales de pasajeros.
"Sabemos cómo hacer esto para otros productos", dijo Smith. "Deberíamos aprovechar ese conocimiento y pensar en cómo aplicarlo a la IA".
Por qué el Reino Unido. Smith argumentaba que Gran Bretaña está en la mejor posición para liderar en materia de normas globales debido a su Instituto de Seguridad de la IA (AISI, por sus siglas en inglés), creado bajo el mandato del ex primer ministro Rishi Sunak.
