chatgpt chatgpt

Riesgos en el uso de ChatGPT

manuelportoles

Manuel Guillermo Portoles Morales

Ingeniero informático

Sobre mi

Graduado en Ingeniería Informática, intensificación en Ingeniería del software. Posee las certificaciones en seguridad de la información ISO27001 LI y Cobit 5 Fundation. Actualmente trabajando en el área de ciberseguridad en el sector financiero.

Uno de los mayores riesgos es el uso de ChatGPT por ciberlincuentes para generar mensajes automatizados que se asemejan a los escritos por humanos o que se encuentran orientados a conseguir de forma eficiente el objetivo planteado por el delincuente

12 Apr 2023

5 Min de lectura

La llegada de la tecnología ChatGPT ha vuelto a posicionar en el centro de la ecuación a los modelos de inteligencia artificial y el fuerte motor que supone para las organizaciones la incorporación de estas herramientas en sus procesos de negocio.

 

Si bien las funcionalidades presentadas por ChatGPT suponen un alto consumo de recursos y actualmente se han presentado de forma abierta y disponible para todo el mundo con acceso a internet, nos debemos preguntar: ¿la democratización de estas soluciones supone riesgos para los usuarios? Para resolver esta pregunta, nos hemos creado una cuenta en la herramienta y hemos buscado la solución.

 

 

NOTA: La respuesta facilitada por la herramienta ha sido editada y complementada con el objetivo de facilitar una información veraz y de calidad para los lectores de este blog.

 

La tecnología de procesamiento del lenguaje natural (NLP) ha experimentado un gran avance en los últimos años, y uno de los modelos más populares es ChatGPT. Este modelo de lenguaje ha sido utilizado para una variedad de tareas, desde la generación automática de texto hasta la atención al cliente. Sin embargo, con el aumento del uso de ChatGPT también se presentan algunos riesgos relacionados con la seguridad cibernética.

 

Uno de los mayores riesgos es que los ciberdelincuentes pueden utilizar ChatGPT para generar mensajes automatizados, que se asemejan a los escritos por humanos, o que se encuentran orientados a conseguir de forma eficiente el objetivo planteado por el delincuente. Estos mensajes pueden ser utilizados a posteriori por el delincuente para engañar a las personas y hacer que cliquen en cierto enlace, adjunto o remitan cierta información confidencial o financiera. Por ejemplo, un ciberdelincuente podría utilizar ChatGPT para generar correos electrónicos de phishing que parezcan legítimos y menos generalistas.

 

Otro riesgo es que los ciberdelincuentes pueden utilizar ChatGPT para generar contenidos asociados a identidades fraudulentas en redes sociales o plataformas de naturaleza análoga facilitando así las capacidades de suplantación de entidades o instituciones financieras, para ganar la confianza de los usuarios y obtener información financiera de las víctimas.

 

En el ámbito del desarrollo software, la herramienta también es capaz de simplificar la generación de código fuente facilitando la suplantación de sitios webs legítimos o la generación de software malicioso, como virus o malware. Contenido que posteriormente puede ser facilitado a los usuarios por los canales anteriormente comentados: correos dirigidos, identidades fraudulentas, webs falsificadas, etc.

 

En línea con lo anterior, los ciberdelincuentes también podrían utilizar ChatGPT para crear programas automatizados que realicen acciones maliciosas en línea. Por ejemplo, podrían crear un programa tipo BOTs que automaticen los registros sitios web y la publicación de comentarios maliciosos o engañosos, la votación fraudulenta, el spam, etc.

 

Estos BOTs podrían incluso autoalimentarse entre identidades falsas mantenidas por una inteligencia artificial creando así un complejo entramado de relaciones de “amistad”, “me gustas” y “comentarios” que complicaría aun mas la identificación de cuentas fraudulentas.

 

Uso de ChatGPT para cometer ciberdelitos

 

Es importante tener en cuenta que desde su publicación, el uso de ChatGPT para cometer ciberdelitos es una tendencia en aumento, y que se espera que continúe aumentando en el futuro. Si bien, sería de esperar que los administradores de la plataforma establecerían mecanismos para detectar estas situaciones y evitarlas en todo caso, no podemos asegurar que otras herramientas de naturaleza análoga tengan este compromiso con la seguridad.

 

Es por eso que resulta crucial que, nosotros, como usuarios de internet en general, seamos conscientes de la necesidad de estar alerta a estos nuevos riesgos y tomar medidas para protegerse contra ellos.

 

Los consejos que entre Uniblog y el ChatGPT os damos para prevenir estas nuevas amenazas son:

  • [ChatGPT] Mantén el software actualizado de todos los elementos conectados a internet, es importante estar al tanto de las últimas actualizaciones de seguridad y parches disponibles para los programas y aplicaciones utilizadas.
  • [ChatGPT] Es importante también ser cuidadoso al abrir correos electrónicos o mensajes de texto de remitentes desconocidos o sospechosos, y no hacer clic en enlaces o descargar archivos de estos correos o mensajes.
  • [ChatGPT] No proporciones información personal o financiera a través de Internet a menos que estés seguro de que la información está siendo solicitada por una entidad legítima.
  •  [ChatGPT] Sé consciente de los riesgos asociados con el uso de ChatGPT y estar al tanto de las últimas tendencias y técnicas utilizadas por los ciberdelincuentes
  •  [ChatGPT] Edúcate a ti mismo y a los demás sobre cómo protegerse contra los ciberdelitos. Esto incluye compartir información sobre los riesgos y las medidas de seguridad con amigos, familiares y colegas, y participar en programas de educación sobre seguridad cibernética.
  •  [Uniblog] Se consciente que cada vez las amenazas que te rodean son mas sofisticadas y exigirán de un análisis por tu parte más profundo para identificarlas.

 

En resumen, la llegada del ChatGPT modifica el panorama de riesgos al que estamos expuestos y como usuarios conectados debemos ser conscientes de este cambio en las amenazas para estar alerta y saber detectarlas y cómo actuar en cada momento.

 

Volver
Escuchando