Ir al contenido principal

Inteligencia Artificial: riesgos de ciberseguridad para una organización



La Inteligencia Artificial (IA), ha cobrado gran auge en años recientes, especialmente con la llegada de aplicaciones como ChatGPT y Gemini, ambas fácilmente accesibles; lo cual ha agilizado su implementación en múltiples ámbitos laborales, por facilitar tareas y automatizar procesos. 


El uso de esta tecnología conlleva beneficios, a la par también existen riesgos en la seguridad de información, tanto personal, como organizacional. "La tecnología nos brinda una ventana al mundo, pero también puede abrir puertas a la vulnerabilidad de nuestra información personal y organizacional", comentó José Amado, gerente de la Práctica de Identidades Digitales de SISAP.  

¿Le ofrece la Inteligencia Artificial privacidad con sus datos?

Amado comparte que uno de los mayores riesgos al utilizar aplicaciones de Inteligencia Artificial, es la incertidumbre respecto al manejo de datos privados por la misma. “ChatGPT, por ejemplo, es un programa que necesita de gran cantidad de información para entrenarse, la cual nosotros le proporcionamos cada vez que lo utilizamos, datos que son almacenados en una nube fuera de nuestro alcance”, explicó. 

El experto brindó un ejemplo sobre el riesgo que esto representa para una organización: “Pensemos que un colaborador en la oficina debe realizar un resumen de un reporte ejecutivo, y para ahorrarse trabajo, copia este en ChatGPT y le pide que lo haga por él”. Esto le daría acceso completo al reporte, información de la empresa, entre otros datos, que ahora están almacenados en la nube y que no sabemos quién puede tener acceso. 


Estas preocupaciones de privacidad deben de estar presentes en la organización al momento de considerar la implementación de Inteligencia Artificial. Una vez se comparten los datos con estas aplicaciones, no pueden eliminarse o regresarse, por lo que resulta importante capacitar a los colaboradores sobre estas tecnologías y sus usos, así evitar que compartan información sensible o confidencial con ellas. 

Aplicaciones creadas por Inteligencia Artificial y su vulnerabilidad

A través de la Inteligencia Artificial ha sido posible realizar tareas de programación, como escribir el código fuente para nuevas aplicaciones y páginas webs; esto sin duda facilita la labor de los programadores y/o personas con poca experiencia en el tema. Amado comparte que, el código de más del 65% de las aplicaciones se están escribiendo con Inteligencia Artificial. 

Para el experto, el problema es que generalmente la Inteligencia Artificial generará un código similar o idéntico para varios usuarios, por lo que es posible que varias organizaciones manejen prácticamente el mismo software o aplicación. “Si todos comparten el mismo código generado por IA, también compartirán las mismas vulnerabilidades, facilitando el acceso a cualquier cibercriminal”, indicó Amado. 

La tendencia demuestra que este riesgo seguirá en aumento, especialmente por el dinamismo y la velocidad con la que se busca crear nuevas aplicaciones y sistemas; por lo que Amado recomienda a las organizaciones no utilizar la Inteligencia Artificial (IA) para generar los códigos que necesiten, en cambio recurrir a métodos tradicionales, los cuales pueden ser más lentos, pero a la larga brindarán mayor seguridad. 

El lado oscuro de las aplicaciones de Inteligencia Artificial 

Mientras que ChatGPT y Gemini buscan apoyar y facilitar las tareas diarias de las personas, existen aplicaciones similares con fines maliciosos, las cuales buscan ayudar a los cibercriminales a mejorar sus métodos de ataque y pasar desapercibidos. 

“Algunos ejemplos de GPTs maliciosos son WormGPT, FraudGPT y PoisonGPT, los cuales pueden realizar tareas desde escribir correos creíbles de phishing, hasta escribir el código de un programa maligno para extraer información”, alertó Amado.  

El experto recalca la importancia de conocer acerca de este tipo de aplicaciones, ya que con su ayuda el riesgo de que las organizaciones puedan sufrir ataques cibernéticos y ser víctimas de Ransomware, aumentan.  

Si en su organización se hace el uso de Inteligencia Artificial para la programación de aplicaciones o web sites, o bien, los colaboradores hacen uso de aplicaciones como ChatGPT, Amado recomienda que se acerquen a una empresa de soluciones en ciberseguridad, como lo es SISAP, quienes puedan realizar un análisis de sus vulnerabilidades y aumentar sus defensas contra ciberataques.  

Acerca de SISAP

SISAP, Sistemas Aplicativos S.A. es una empresa fundada en la ciudad de Guatemala en 1985, líder en el mercado de la Tecnología y la Seguridad de la Información en 10 países de la región. Tiene un amplio portafolio de servicios y soluciones enfocadas en el área de seguridad de la información, con más de 1000 certificaciones que acreditan el servicio que brindan a sus clientes. 

 

Con una experiencia de más de 39 años, son los líderes en proveer soluciones y servicios de seguridad a clientes en Latinoamérica, a través de una planilla de más de 400 empleados (60% son ingenieros), laboratorios forenses, una academia de ciberseguridad, más de 100 marcas aliadas, y distintas oficinas regionales, ubicadas en Guatemala, El Salvador, Honduras, Nicaragua, Costa Rica, Panamá, República Dominicana, Colombia, México y Estados Unidos.

Comentarios

Entradas populares de este blog

El Club de Leones de Panama promueve un conversatorio para reforzar a la Familia Panameña

+ SEGUN EL CENSO NACIONAL, EL 38% DE HOGARES PANAMENOS NO TIENEN A AMBOS PADRES EN CASA: CIFRA IMPORTANTE QUE CONTRIBUYE A LOS RETOS DE PROMOVER LOS VALORES POSITIVOS EN LA FAMILIA  • Las estadísticas recientes del Censo muestran el desafío de la descomposición familiar, el debilitamiento y la falta de uno de los padres y resalta la importancia de fortalecer los valores y vínculos familiares en regiones específicas como San Miguelito, Curundú y Colón, donde la cifra de un padre o madre sin su complemento supera el 50%.  • El club cívico hace un llamado a la acción para que las autoridades y la sociedad en general implementen medidas que aborden temas críticos que requieren atención y políticas dirigidas para el apoyo familiar y comunitario.  Es urgente promover la recomposición de la familia promoviendo y fortaleciendo la paternidad responsable, fortaleciendo también los vínculos familiares y apoyando y empoderando a las mujeres que son madres y padres.   El C...

Vuelve Territorio Café en su tercera edición, celebrando y promoviendo la cultura cafetera en Panamá

Territorio Café, el evento anual dinámico e inmersivo dedicado a celebrar y explorar la rica cultura y los complejos procesos de la producción de café, reuniendo a entusiastas y amantes del emblemático grano con los profesionales de la industria, tostadores, baristas y productores de café en Panamá, regresa el próximo sábado 10 de agosto de 11:00 a.m. a 8:00 p.m. en el Megapolis Hotel Panamá (Avenida Balboa).   “Territorio Café Panamá es un grupo de apasionados por el café que se han unido para promover una comunidad que valore a todos los miembros de la cadena. Nos conectamos con agricultores, tostadores y consumidores para fomentar un cambio positivo en la industria del café. Al destacar la diversidad y excelencia del producto local, nos aseguramos de resaltar la importancia del comercio justo, la conservación medioambiental y la calidad en la industria.” , destaca Nicole Rubatino, Directora de Territorio Café. Durante el evento los asistentes podrán disfrutar de múltiples ac...

¡Por primera vez en el país! 480 niños y niñas participarán en la primera edición del Campeonato Nacional Infantil Scotiabank Fútbol Club en Panamá

 Hasta 48 equipos de escuelas públicas y privadas y agrupaciones comunales se enfrentarán en las canchas, de forma presencial, para vivir una experiencia inolvidable. -El ganador del torneo vivirá una experiencia con el Fútbol Club Barcelona. Este 2022 llega a Panamá, por primera vez, el Campeonato Nacional Infantil Scotiabank Fútbol Club en formato presencial. La primera edición de este importante torneo reunirá hasta 48 equipos de fútbol representantes de escuelas públicas y privadas y agrupaciones comunales. Cada equipo participante podrá estar conformado por 10 jugadores y jugadoras -niñas y niños menores de 11 años. “El Campeonato Nacional Infantil Scotiabank Fútbol Club es un programa que promueve este deporte como una herramienta de desarrollo para las nuevas generaciones. A través del torneo nos enfocamos en promover seis valores esenciales entre los menores: el respeto, la integridad, el trabajo en equipo, la determinación, la pasión y la inclusión. Estamos realmente emoci...