Ir al contenido principal

Inteligencia Artificial: riesgos de ciberseguridad para una organización



La Inteligencia Artificial (IA), ha cobrado gran auge en años recientes, especialmente con la llegada de aplicaciones como ChatGPT y Gemini, ambas fácilmente accesibles; lo cual ha agilizado su implementación en múltiples ámbitos laborales, por facilitar tareas y automatizar procesos. 


El uso de esta tecnología conlleva beneficios, a la par también existen riesgos en la seguridad de información, tanto personal, como organizacional. "La tecnología nos brinda una ventana al mundo, pero también puede abrir puertas a la vulnerabilidad de nuestra información personal y organizacional", comentó José Amado, gerente de la Práctica de Identidades Digitales de SISAP.  

¿Le ofrece la Inteligencia Artificial privacidad con sus datos?

Amado comparte que uno de los mayores riesgos al utilizar aplicaciones de Inteligencia Artificial, es la incertidumbre respecto al manejo de datos privados por la misma. “ChatGPT, por ejemplo, es un programa que necesita de gran cantidad de información para entrenarse, la cual nosotros le proporcionamos cada vez que lo utilizamos, datos que son almacenados en una nube fuera de nuestro alcance”, explicó. 

El experto brindó un ejemplo sobre el riesgo que esto representa para una organización: “Pensemos que un colaborador en la oficina debe realizar un resumen de un reporte ejecutivo, y para ahorrarse trabajo, copia este en ChatGPT y le pide que lo haga por él”. Esto le daría acceso completo al reporte, información de la empresa, entre otros datos, que ahora están almacenados en la nube y que no sabemos quién puede tener acceso. 


Estas preocupaciones de privacidad deben de estar presentes en la organización al momento de considerar la implementación de Inteligencia Artificial. Una vez se comparten los datos con estas aplicaciones, no pueden eliminarse o regresarse, por lo que resulta importante capacitar a los colaboradores sobre estas tecnologías y sus usos, así evitar que compartan información sensible o confidencial con ellas. 

Aplicaciones creadas por Inteligencia Artificial y su vulnerabilidad

A través de la Inteligencia Artificial ha sido posible realizar tareas de programación, como escribir el código fuente para nuevas aplicaciones y páginas webs; esto sin duda facilita la labor de los programadores y/o personas con poca experiencia en el tema. Amado comparte que, el código de más del 65% de las aplicaciones se están escribiendo con Inteligencia Artificial. 

Para el experto, el problema es que generalmente la Inteligencia Artificial generará un código similar o idéntico para varios usuarios, por lo que es posible que varias organizaciones manejen prácticamente el mismo software o aplicación. “Si todos comparten el mismo código generado por IA, también compartirán las mismas vulnerabilidades, facilitando el acceso a cualquier cibercriminal”, indicó Amado. 

La tendencia demuestra que este riesgo seguirá en aumento, especialmente por el dinamismo y la velocidad con la que se busca crear nuevas aplicaciones y sistemas; por lo que Amado recomienda a las organizaciones no utilizar la Inteligencia Artificial (IA) para generar los códigos que necesiten, en cambio recurrir a métodos tradicionales, los cuales pueden ser más lentos, pero a la larga brindarán mayor seguridad. 

El lado oscuro de las aplicaciones de Inteligencia Artificial 

Mientras que ChatGPT y Gemini buscan apoyar y facilitar las tareas diarias de las personas, existen aplicaciones similares con fines maliciosos, las cuales buscan ayudar a los cibercriminales a mejorar sus métodos de ataque y pasar desapercibidos. 

“Algunos ejemplos de GPTs maliciosos son WormGPT, FraudGPT y PoisonGPT, los cuales pueden realizar tareas desde escribir correos creíbles de phishing, hasta escribir el código de un programa maligno para extraer información”, alertó Amado.  

El experto recalca la importancia de conocer acerca de este tipo de aplicaciones, ya que con su ayuda el riesgo de que las organizaciones puedan sufrir ataques cibernéticos y ser víctimas de Ransomware, aumentan.  

Si en su organización se hace el uso de Inteligencia Artificial para la programación de aplicaciones o web sites, o bien, los colaboradores hacen uso de aplicaciones como ChatGPT, Amado recomienda que se acerquen a una empresa de soluciones en ciberseguridad, como lo es SISAP, quienes puedan realizar un análisis de sus vulnerabilidades y aumentar sus defensas contra ciberataques.  

Acerca de SISAP

SISAP, Sistemas Aplicativos S.A. es una empresa fundada en la ciudad de Guatemala en 1985, líder en el mercado de la Tecnología y la Seguridad de la Información en 10 países de la región. Tiene un amplio portafolio de servicios y soluciones enfocadas en el área de seguridad de la información, con más de 1000 certificaciones que acreditan el servicio que brindan a sus clientes. 

 

Con una experiencia de más de 39 años, son los líderes en proveer soluciones y servicios de seguridad a clientes en Latinoamérica, a través de una planilla de más de 400 empleados (60% son ingenieros), laboratorios forenses, una academia de ciberseguridad, más de 100 marcas aliadas, y distintas oficinas regionales, ubicadas en Guatemala, El Salvador, Honduras, Nicaragua, Costa Rica, Panamá, República Dominicana, Colombia, México y Estados Unidos.

Comentarios

Entradas populares de este blog

Adidas Basketball le da la bienvenida a Donovan Mitchell a Panamá

Adidas Basketball trajo a Donovan Mitchell a Panamá para animar a jóvenes atletas e inaugurar una cancha de baloncesto recientemente renovada como parte de su continuo activismo social.     Donovan ha colaborado con adidas en reiteradas ocasiones para crear su propia línea de zapatillas de Basketball. Las D.O.N. (Determination Over Negativity) Determinación sobre negatividad, son zapatillas diseñadas para el rendimiento en la cancha y estilo fuera de ella.    Las adidas D.O.N. Issue 6 fueron lanzadas en julio, con una gran variedad de opciones de color, incluyendo una llamativa combinación de rosada y azul. Mitchell ha expresado su emoción por su nuevo diseño, que resaltan la comodidad, livianes y moderna tecnología, en especial sus primeras zapatillas llamadas “Panamá” que serán lanzadas en noviembre.    La conexión de Mitchell con Panamá viene por parte de su familia materna, particularmente de su abuela, quien ha sido un gran referente en su vida, compar...

Heineken® sorprende a verdaderos fanáticos de la UEFA Champions League con una experiencia inolvidable en Panamá.

  No todos pueden dejarlo todo por ver un partido, pero los  #RealHardcoreFans  sí. Por esto, Heineken®, como patrocinador oficial de la UEFA Champions League, decidió premiar esa pasión real con una experiencia inesperada en pleno horario laboral. Inspirados en quienes se las ingenian para no perderse ni un minuto del torneo, Heineken® llevó la Champions directamente a  los fanáticos de verdad y  celebró su compromiso con el fútbol, incluso, cuando el deber llama. Todo comenzó con una convocatoria engañosamente formal: un supuesto workshop donde iban a aprender de integración corporativa y otros temas gerenciales, que justo coincidía con un partido decisivo. La tensión se sentía y  tras 35 minutos de "reunión", los asistentes fueron sorprendidos con una  experiencia  única, ambientada con todo lo que un verdadero fan necesita para vivir el juego como se debe: buena compañía, ambiente cargado de emoción y, por supuesto, Heineken® bien fría. Crear ...

ALTAPLAZA MALL TE INVITA A CELEBRAR EL AÑO NUEVO CHINO

AltaPlaza Mall celebrará en grande el Año Nuevo Chino, este año simbolizado por la Serpiente de Madera, que representa un 2025 de profundos cambios, un signo asociado a la sabiduría, intuición y renovación. La celebración inicia este miércoles 29 de enero en la Plaza Central del Mall con talleres de manualidades para los niños en horario de 2:00 p.m. a 3:30 p.m. y para adultos de 4:30 p.m. a 6:30 p.m., y se extiende hasta el domingo 2 de febrero.  El 1 y 2 de febrero en la Plaza Central los interesados en aprender caligrafía china podrán participar de este interesante taller en horario de 2:00 p.m. a 5:00 p.m.  Para cerrar la semana de celebración del Año Nuevo Chino, el domingo 2 de febrero en horario de 4:00 p.m. a 5:00 p.m., los visitantes y clientes podrán disfrutar de la Danza de Dragones y Leones, tradición cultural china y otros países asiáticos en los que los artistas imitan los movimientos de un león, para atraer la buena suerte y fortuna.  Te invitamos a conocer...