Cuidado con la inteligencia artificial

Hace unos días tuve la ocasión de leer un mensaje que un desarrollador de software mandaba a una lista a la que estoy suscrito, en el comentaba su experiencia con la IA y, aunque él era más contundente, de resultado de leerlo yo concluí que ¡cuidado con la inteligencia artificial! Y te explico por qué …

El autor del mensaje exponía como había pedido a la IA que desarrollara un algoritmo para la solución de un conocido problema (no entro más ahí porque es terminología de programadores que no viene al caso en este blog).

Como resultado, comentaba, la IA le había proporcionado un código que, sintácticamente, parecía correcto y que funcionaba y … hasta aquí lo positivo.

Porque resulto que, aunque sintácticamente correcto, el código era un galimatías, difícil de leer, de comprender y de corregir porque, y es esto sí es bueno, aunque el código funcionaba los resultados del mismo eran totalmente incorrectos.

Esto, para alguien con suficiente conocimiento, resulta en un problema de corregir el código, pero alguien sin ese conocimiento se va a encontrar con una solución que cree acertada pero que no lo es, con las implicaciones que eso puede tener y, ya no sólo en el mundo del desarrollo de software, si no en cualquier otra especialidad.

La IA puede ser una ayuda para tareas básicas y repetitivas, pero, según lo veo yo, no puede sustituir al conocimiento, razonamiento e inteligencia humana. De hecho, veo necesario tener unos conocimientos sólidos sobre el tema para el que se va a utilizar ya que los resultados que nos proporcione hemos de contrastarlos y verificarlos, pues, visto lo visto, no podemos estar seguros de que sean correctos.

No quiero que se entienda que tengo algo contra la IA, muy al contrario, para determinadas tareas, como, por ejemplo, para recabar información sobre alguna temática o para contrastar y ampliar conocimientos sobre algo puede ser una herramienta tremendamente útil. Pero para determinadas cosas hay que utilizarla con cuidado y sabiendo que no es la panacea universal, que aún le queda camino por recorrer y que, en mi opinión, nunca podrá reemplazar a la inteligencia humana.

¿qué es la inteligencia artificial?

Se habla mucho hoy sobre la IA, sus avances y sus resultados pero pocos conocen o se han parado a investigar, realmente como funciona una IA. A continuación os pego directamente unos párrafos del mensaje donde explica, mejor de lo que yo pueda hacer, como funciona la inteligencia artificial y por qué debemos de ser precavidos en su uso:

La IA no es más que una gran red neuronal que ha producido una secuencia de tokens basada en otra secuencia de tokens de entrada. En esencia, no es más que un sofisticado algoritmo de regresión basado en una serie de puntos de datos que se utilizaron para entrenarlo. Lo que estamos haciendo es el equivalente a derivar una línea de mejor ajuste a través de una nube de puntos de datos y luego pedirle al algoritmo que extrapole en función de esa ecuación de regresión. Funciona (por supuesto que sí, es sólo una ecuación), pero fundamentalmente es tremendamente engañoso. Cualquier persona con una educación decente sabe que la extrapolación está plagada de errores. Y eso es todo lo que es la IA (con las técnicas que se utilizan hoy en día). Un sofisticado motor de extrapolación.

Si confías en la IA para codificar, dedicarás más tiempo a corregir el código que el que utilizarías si lo escribieras tú mismo. Más que eso, el código parece muy claro, por lo que los errores no son obvios al principio. Escribir el código tú mismo también te acercará más a él, y esa familiaridad generará conocimientos que la IA nunca tuvo y ciertamente no puede impartir a sus usuarios. ¿Por qué querrías renunciar al beneficio adicional de escribir tu propio código?

La IA es, en mi opinión, una de las modas más peligrosas que han aparecido recientemente. No necesariamente por el daño que podría causar en sí mismo, sino porque genera una falsa sensación de seguridad entre aquellos que no lo entienden, es decir, en la mayor parte del mundo, he conocido a muy pocas personas capaces de explicarme cómo funciona, incluso en un nivel básico. Perversamente, esto podría conducir a una pérdida de conocimiento e inteligencia entre la población.

Quizás haya partes difíciles de entender, por favor, léelo con detenimiento porque pienso que proporciona claves que todos deberíamos tener en cuenta a la hora de utilizar la IA.

Un saludo

Imagen de cabecera de Gerd Altmann en Pixabay


Publicado

en

,

por

Etiquetas:

Comentarios

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *