Entrevista con el Sr. Voswinkel, DATEV eG

¿Qué es ChatGPT en realidad? ¿Qué impacto tiene la IA en nuestro día a día y qué riesgos conlleva su uso? Hemos consultado a nuestro delegado de protección de datos (DPD).

¿Qué es la inteligencia artificial?

La intención es que los dispositivos puedan actuar de forma predictiva. Se busca implementar en los sistemas la capacidad de percibir estímulos y reaccionar ante ellos de manera adecuada con respecto al contexto correspondiente. Dicho de forma sencilla, el objetivo es almacenar estos estímulos como conocimiento y volver a aplicarlos.

¿Y qué es ChatGPT?

La abreviatura GPT significa "Generative Pre-trained Transformer" (Transformador Generativo Preentrenado). Se trata, por tanto, de un generador de texto que, mediante información previamente entrenada y con ayuda de la inteligencia artificial, transforma las consultas de los usuarios en respuestas y asistencia. Para ello utiliza una base de datos subyacente. ChatGPT es tan fácil de usar como los motores de búsqueda actuales en la red. La diferencia es que, "supuestamente", ChatGPT ahorra el trabajo de buscar y evaluar los resultados, ya que no se limita a presentar enlaces o respuestas cortas.

¿Cómo deben evaluarse los riesgos?

El uso de los resultados de una investigación puede dar lugar a violaciones de la protección de datos, como la falta de especificación de las bases legales para el procesamiento de datos y un incumplimiento continuado de los deberes de información.

A esto se suma que los ciberdelincuentes utilizan cada vez más los generadores de texto y la IA para redactar correos electrónicos contextuales que, al alimentar el sistema con correspondencias previas, imitan incluso el lenguaje, la sintaxis y el vocabulario de personas reales. De este modo, se pueden continuar hilos de correo existentes con un lenguaje natural y un contenido que parece coherente. Esto hace que sea aún más difícil detectar correos falsos.

¿Cómo abordar esto en el entorno profesional?

Actualmente, los órganos legislativos de la Unión Europea, al igual que muchos otros estados en todo el mundo, trabajan en borradores para la implementación de reglamentos y leyes de IA (como la Ley de IA). La intención es regular la aplicación de la IA, así como garantizar su diseño seguro y transparente.

Por lo tanto, la realidad avanza más rápido que la legislación. Especialmente hasta que se apliquen las leyes, se debe tener precaución con estos sistemas y evitar la divulgación de información sensible, como secretos comerciales o datos de carácter personal. Los empleados deben saber qué información o preguntas está permitido introducir en el sistema de IA.

La urgencia de contar con directrices internas y su implementación controlada se demuestra con bastante claridad en el hecho de que uno de los grandes consorcios tecnológicos estadounidenses ha prohibido el uso laboral interno con información sensible del sistema que ellos mismos han desarrollado y operan. Si las empresas que se benefician directamente del uso de su propio sistema muestran tal cautela, esto debería ser una señal clara para todas las demás.