Últimamente se han visto diversas noticias sobre Inteligencia Artificial, y ya es una realidad que las organizaciones están trabajando en implantar IA para mejorar la eficiencia de sus procesos. Esto quiere decir que la IA está teniendo un gran impacto en la forma en cómo se relacionan las personas y la manera de hacer negocios
En cuanto a las obligaciones que se plantean para los entornos de IA, ya existe una propuesta del reglamento de Inteligencia Artificial de la Comisión Europea. El cual aún se encuentra en proyecto en el parlamento, aunque se estima sea aprobado este año
Mientras que, China se ha adelantado a la Unión Europea y ya comenzó a regular la IA, con la aprobación de la ley ya en vigor, que regula el uso de los “deep fakes” o técnicas de síntesis de imágenes humanas basadas en IA., esta regulación obliga a los titulares a identificarse antes del uso, además la difusión de noticias falsas queda prohibida.
Sin embargo, el proceso por el cual tiene que pasar una regulación hasta su aplicación, tarda demasiado, provocando que determinados espacios se encuentren, vulnerables., por lo que las autoridades y los gobiernos están dando los primeros pasos. Pero los actores tecnológicos siguen diseñando nuevas herramientas y servicios que plantean nuevos escenarios y riesgos.
Por ejemplo, CHATGPT es un servicio de chatbot, o software basado en inteligencia artificial que simula una conversación con un usuario, brindando respuestas automáticas, utilizando un modelo de lenguaje desarrollado por OpenAI llamado GPT.
La tecnología utiliza más de 175 millones de parámetros y está entrenada con grandes cantidades de texto para poder generar respuestas similares a las humanas. Pero no siempre ofrecerá respuestas completamente precisas o relevantes, porque después de todo es una herramienta basada en el conocimiento de los parámetros y la información que le proporcionan; si no está lo suficientemente capacitado, no podrá dar respuestas precisas o consistentes.
También es importante señalar que existen más riesgos, ya que existen otro tipo de amenazas relacionadas con el impacto de estas herramientas en nuestra vida cotidiana y nuestros derechos. La introducción de estas nuevas tecnologías plantea diversas cuestiones sobre la privacidad, la formación de la identidad personal, la determinación de la responsabilidad o el sesgo en el tratamiento de datos, relacionados con la falta de visión humana en el diseño de las máquinas.
Por tanto, los avances en inteligencia artificial no solo traen consigo nuevos retos y amenazas a la ciberseguridad, sino también los debates éticos y legales que la acompañan, por lo que es necesario regularla.
Es imperativo garantizar que la tecnología se utilice de manera ética y responsable, y que su rendimiento y eficacia se evalúen regularmente, y que se considere cuidadosamente la necesidad de implementar medidas apropiadas adaptadas a la nueva realidad para garantizar la seguridad.
La adecuada gestión y control de las aplicaciones de inteligencia artificial y sus riesgos se convierte en un factor importante para analizar racionalmente los posibles riesgos, mitigarlos en consecuencia y brindar tranquilidad a la empresa.
En Foster Swiss, le ofrecemos a su disposición soluciones simples que le permitirán mantener tu negocio fuera del alcance de la ciberdelincuencia. Contáctanos a través de cybertech@fosterswiss.com
