Amazon pidió que los modelos de inteligencia artificial se lancen solo cuando sean seguros
La compañía sostuvo que el desarrollo de nuevos sistemas y la seguridad deben avanzar al mismo tiempo. El planteo aparece en medio de un debate creciente dentro de la industria sobre la velocidad con la que se lanzan modelos cada vez más potentes.
Amazon afirmó que los nuevos modelos de inteligencia artificial deberían llegar al público únicamente después de superar pruebas rigurosas y contar con medidas de seguridad suficientes.
“No lo consideramos una disyuntiva entre el progreso y la seguridad”, señaló Tom Parnell, portavoz de Amazon, en declaraciones recogidas por Reuters y reproducidas por Infobae. Según explicó, los modelos deberían lanzarse cuando estén “listos y sean seguros de usar”.
La postura se conoce en un momento de fuerte discusión dentro del sector tecnológico sobre cuánto deberían acelerar las empresas el desarrollo de sistemas de IA más avanzados y cuánto tiempo deberían dedicar a evaluar sus posibles riesgos antes de ponerlos a disposición de millones de usuarios.
Amazon propone integrar la seguridad desde el desarrollo
Para la compañía, las medidas de protección no deberían incorporarse únicamente después de que un producto llegue al mercado.
Amazon sostiene que las pruebas, evaluaciones y mecanismos de seguridad deben formar parte del proceso de desarrollo y servir para determinar cuándo un modelo está preparado para ser utilizado públicamente.
La empresa también planteó la necesidad de cooperación entre compañías tecnológicas y gobiernos para desarrollar mecanismos de protección frente a los riesgos asociados a estos sistemas.
El planteo no implica que Amazon proponga detener el avance de la inteligencia artificial. Su posición es que el desarrollo tecnológico puede continuar, siempre que las mejoras en capacidades estén acompañadas por evaluaciones y controles suficientes.
El debate atraviesa a las principales empresas de IA
La discusión sobre seguridad se intensificó durante las últimas semanas.
Distintos ejecutivos e investigadores de compañías como Anthropic, OpenAI, Meta y Nvidia expresaron posiciones sobre los riesgos, la regulación y el ritmo al que deberían avanzar los modelos más potentes.
Opinando San Nicolás informó recientemente sobre uno de esos cruces, luego de que Elon Musk calificara como una posible “operación psicológica” algunas advertencias surgidas dentro de la industria. Sin embargo, el propio empresario también respaldó propuestas destinadas a dar más tiempo al desarrollo de herramientas de seguridad.
El debate, por lo tanto, no se limita a determinar si la inteligencia artificial debe continuar avanzando, sino también a qué controles deberían aplicarse antes de que modelos más capaces lleguen al público.
Amazon también tiene intereses directos en el crecimiento de la IA
La posición de la compañía tiene especial relevancia por su participación en el sector.
Amazon Web Services ofrece infraestructura y herramientas para que empresas desarrollen y ejecuten sistemas de inteligencia artificial mediante servicios como Amazon Bedrock. AWS afirma que esa plataforma es utilizada por más de 225.000 clientes activos.
Por ese motivo, Amazon participa del crecimiento del mercado tanto desde la infraestructura tecnológica como desde sus relaciones comerciales con desarrolladores de modelos.
La empresa sostiene que esa expansión debe ir acompañada por pruebas rigurosas y mecanismos de seguridad antes de que los sistemas lleguen a los usuarios.
Lectura rápida
¿Qué planteó Amazon?
Que los modelos de inteligencia artificial deben lanzarse únicamente cuando estén suficientemente probados y sean seguros para su uso.
¿Amazon propone frenar el desarrollo de la IA?
No. La compañía sostiene que progreso y seguridad pueden avanzar en paralelo.
¿Qué controles reclama?
Pruebas exhaustivas y mecanismos de protección antes de poner los modelos a disposición del público.
¿Por qué el planteo aparece ahora?
Porque distintas empresas y referentes tecnológicos están debatiendo el ritmo de desarrollo y los riesgos de los sistemas más avanzados.
¿Amazon participa directamente del mercado de IA?
Sí. A través de AWS ofrece infraestructura y plataformas para desarrollar y ejecutar modelos de inteligencia artificial.
