La inteligencia artificial (IA) es un sistema informático diseñado para realizar tareas que normalmente requieren inteligencia humana como ciertas instancias de aprendizaje, razonamiento, percepción de temas particulares, toma de decisiones y resolución de problemas. La IA se basa en el desarrollo de algoritmos y modelos matemáticos que le permiten procesar información y generar respuestas basándose en patrones estadísticos y predicciones. Lo cual implica que no tiene un verdadero razonamiento basado en experiencia y una comprensión de la realidad. Sus respuestas Aunque pueden ser útiles y precisas en muchos contextos, también pueden ser incorrectas o engañosas si los datos de entrenamiento son sesgados o incompletos.
Contenido de la página
Importancia y relevancia de la inteligencia artificial en la actualidad
Actualmente, interactuamos con distintas versiones de IA. Desde asistentes virtuales en nuestros teléfonos hasta sistemas de recomendación en plataformas de streaming. Su impacto se extiende a campos tan diversos como la medicina, la educación y la industria, prometiendo transformar la forma en que trabajamos, aprendemos y nos relacionamos con la tecnología.
Sin embargo, ¿estamos los usuarios comunes de los famosos ChatGPT, Perplexity, Claude, etc., preparados para entender y discernir las respuestas entregadas por la IA con consciencia crítica?
Para saber cómo funciona la inteligencia artificial vamos a definir algunos términos y procesos que nos ayuden a comprender mejor cómo debemos manejarla.
Recopilación de datos para el entrenamiento de la inteligencia artificial IA
Todo sistema informático debe ser programado con una serie de ecuaciones que le ayudarán a cumplir las tareas para las que fue creado. En el caso de la IA, sus respuestas necesitan de una gran base de datos de todo tipo de conocimiento que le permitan hacer uso de su modelo estadístico y predictivo para generar una respuesta. Es ahí donde entra la recopilación de datos. Este es un proceso sistemático de reunir y medir información sobre variables específicas.
Para la IA, la recopilación de datos es fundamental, ya que sin ella no puede entrenarse. Cómo podría darte ChatGPT una definición de qué es un automóvil, si no se le ha alimentado todo tipo de información sobre su historia, procedencia, variedad, entre muchísimas más información que le permitirá tener una «idea» de qué es a lo que nos referimos cuando le pedimos que nos explique qué es un automóvil.
Sin datos, desmedidamente grandes, la IA no puede aplicar estos «conocimientos» en su modelo para realizar una predicción precisa y generar una respuesta coherente. En este caso, los datos actúan como el combustible que permite a los algoritmos de IA funcionar y evolucionar. Y, mientras más información pueda integrar en su entrenamiento, más fuerte debería ser, más «confiable». Sin embargo, aquí es donde empezamos a encontrar problemas.
Pero antes de continuar con el análisis de la veracidad de las fuentes de entrenamiento de las IA, conozcamos los métodos de recopilación de datos más comunes en la actualidad.
El Web Scraping es la extracción automatizada de datos de sitios web. Una máquina de búsqueda programada para recorrer los sitios web existentes ingresa y copia toda la información que pueda encontrar, incluyéndola a su base de datos.
Las APIs y bases de datos públicas dan un acceso libre a conjuntos de datos estructurados que pueden contener información sensible de usuarios que no han dado su consentimiento para ser escarbados e incluidos.
Crowdsourcing es la recolección de datos a través de contribuciones de usuarios. Los más controversiales en la actualidad siendo Meta y Adobe, que al cambiar sus términos y condiciones de uso durante el 2024, fuerzan a los usuarios a compartir la información sin darles una opción a negarse. Esto incluye información personal, interacciones con las plataformas y otros usuarios y hasta el trabajo que podría estar regido a acuerdos legales de no divulgación con clientes finales. Estas compañías, a su vez, con la excusa de haberlo especificado en los términos de servicio, tienen la potestad de usar o vender esta información a los grandes programadores de las inteligencias artificiales o alimentan a sus propios sistemas de generación de contenido.
Los Sensores y dispositivos IoT (Internet of Things) son una variedad de dispositivos físicos conectados a internet que pueden recopilar y transferir datos a través de una red inalámbrica con poca o ninguna intervención humana. Estos pueden incluir objetos domésticos comunes como bombillas, impresoras, electrodomésticos, televisores, asistentes virtuales como Alexa, Google Home, Apple Siri, aspiradoras electrónicas, herramientas industriales sofisticadas, vehículos con sistemas inteligentes, dispositivos médicos, teléfonos, relojes inteligentes, dispositivos de rastreo, cámaras de vigilancia, cámaras de niñeras, drones, etc. Es decir, si tiene acceso a la red Wi-Fi y no está protegido, esa información está siendo recopilada.
Los Registros y logs de sistemas se refieren a la recopilación de datos de interacciones de usuarios. Estos pueden ser desde los logs de recomendación de Netflix u otros sistemas de streaming, hasta las interacciones, preguntas o búsquedas que realices en los distintos motores de búsqueda como Google, el historial de navegación y de descargas de archivos personal.
Las Colaboraciones con instituciones básicamente tienen que ver con acuerdos entre empresas o instituciones que facilitan datos especializados.
¿Cuáles son los problemas más comunes al momento de recopilar datos para el entrenamiento de la IA?
Lamentablemente, en la actualidad los desarrolladores de los sistemas de inteligencia artificial no han tomado en cuenta el derecho de los usuarios para ceder sus datos o trabajo creativo, tomando la información sin ningún tipo de consentimiento y sin poder revertir esta toma de información desenfrenada. Esto no solo afecta a en la capacidad de declarar las respuestas generadas por IA como productos originales, libres para ser reclamados por el creador del prompt como un trabajo original, sino también se ve afectada la calidad de los datos y las respuestas generadas.
Al menos en los últimos quince años hemos sido testigos de la creación indiscriminada de fake news con el objetivo de la manipulación política. De la misma manera, somos el blanco diario de campañas de grandes corporaciones para consumir sus productos, muchas veces bajo engaños y manipulación de datos reales. Toda esta información ha sido parte del entrenamiento de la IA. La inteligencia artificial no es una enciclopedia que pasó por varios filtros de verificación de información y, lamentablemente, tiene un gran sesgo de conocimiento muy grande.
Como sabemos, socialmente hablando, quienes no tienen acceso a la información son aquellos que tienen la tendencia más grande a ser explotados, quienes tienen un acceso medio a la información, tienen la desventaja de estar en el estrato de caer en algún tipo de manipulación y quienes tienen el poder de generar esa información y distribuirla son aquellos que realmente tienen el control y el poder dentro de la sociedad.
Podemos concluir que, la recopilación de datos que fueron usados para el entrenamiento, así como la moral e intención de las personas encargadas de la programación del sistema, influyen directamente en la generación de respuestas, dando como resultado contenido que puede acentuar los temas de discriminación, opresión, racismo, clasismo, entre otros problemas sociales. De la misma forma, la IA no es capaz de entender el contexto real del individuo que realiza el prompt o su circunstancia inmediata y al encontrarse con una laguna de desconocimiento, intentará llenarla con una predicción que puede ajustarse a la realidad o completamente inventada.
Quiero saber más de IA
Cada jueves, Cygno publicará en nuestra cuenta de IG, un tema relacionado con inteligencia artificial. Lo definiremos como #JuevesDeIACygno y así podrás encontrarlo en este blog y en nuestras redes sociales.
En nuestro siguiente artículo de inteligencia artificial hablaremos más sobre los fundamentos de la IA, definiremos qué es un prompt y revisaremos las mejores prácticas para obtener mejores resultados. También hablaremos de cuál es el proceso que realiza la IA para llegar del prompt a la respuesta y conoceremos definiciones importantes que todo usuario de un sistema inteligencia artificial necesita tener en su almanaque de términos.
Guarda este link en tu navegador para volver cada jueves y aprender más sobre inteligencia artificial (IA).
