Amazon se sumó este 17 de septiembre al debate sobre la seguridad de la inteligencia artificial al defender que los modelos avanzados deben pasar pruebas rigurosas y contar con salvaguardas robustas antes de ser liberados al público.
La posición de la compañía, reportada por Reuters, busca marcar una línea intermedia: acelerar el desarrollo de la inteligencia artificial, pero sin presentar progreso y seguridad como objetivos incompatibles.
Amazon sostuvo que los modelos deben salir al mercado cuando estén listos y sean seguros para su uso, y planteó que la industria y los gobiernos deben colaborar en la definición de protecciones adecuadas frente a riesgos emergentes.
Amazon evita pedir una desaceleración general
A diferencia de otras voces del sector que han reclamado mayor cautela o una desaceleración del desarrollo de sistemas de frontera, Amazon no respaldó una pausa amplia para toda la industria.
La empresa enfatizó en cambio la necesidad de procesos de evaluación, pruebas de seguridad y salvaguardas antes del despliegue de los modelos.
Por qué importa la posición de Amazon
Amazon es uno de los principales actores globales de infraestructura en la nube a través de Amazon Web Services y participa directamente en el mercado de inteligencia artificial mediante sus propios modelos y la plataforma Bedrock, que permite acceder a sistemas desarrollados por distintas compañías.
La postura del grupo adquiere peso en momentos en que empresas tecnológicas, reguladores y gobiernos discuten cómo reducir riesgos sin frenar la innovación ni consolidar ventajas para un número limitado de compañías.
El debate sobre seguridad sigue creciendo
Las discusiones se han intensificado a medida que los modelos ganan autonomía y capacidad para interactuar con sistemas externos. Entre las preocupaciones se encuentran accesos no autorizados, uso malicioso, fallas en controles y comportamientos difíciles de anticipar.
Amazon no anunció en esta declaración un nuevo régimen regulatorio propio ni un calendario de cambios específicos para sus servicios. Su mensaje se concentra en exigir pruebas rigurosas y mecanismos de protección antes del lanzamiento.
Acerca del autor
