‘La Inteligencia Artificial no es infalible, a veces se equivoca’

El doctor Carlos Coello Coello, pionero de la Inteligencia Artificial (AI) en nuestro país, se convirtió en el primer computólogo que ingresó a El Colegio Nacional, esto debido a su carrera y contribuciones a la tecnología en México.

De las estructuras reticulares a los algoritmos evolutivos: mi largo camino de la ingeniería civil a las ciencias de la computación fue el título de la primera lección del especialista mexicano en su incorporación a la academia.

En entrevista para La-Lista, el experto comentó que se trata de una de las distinciones más importantes de su trayectoria, además que es una responsabilidad porque se convirtió en el representante de una comunidad al ser el primer computólogo que forma parte de las filas de este organismo.

“Para mí refleja un reconocimiento de la comunidad científica a una disciplina joven como es la computación, pero completamente transversal porque impacta en todas las áreas del conocimiento”, dijo el pionero de la Inteligencia Artificial en México.

Comentó que la IA tiene un papel prioritario en este momento de la historia, pues no siempre la humanidad se percata que está en todas partes. Sin embargo, al notarla como una novedad tecnológica, también despierta temor en algunas personas, como ocurrió hace 30 años.

“La IA que se hacía hace 30 años era basada en modelos rígidos que operaban con poca información, contrario a la de ahora. Eso trae como consecuencia que en mucha de la IA que usamos de manera cotidiana en el auto, el móvil y el internet hay algoritmos que invaden nuestra privacidad“, comentó.

¡Enhorabuena! Bienvenido Carlos Coello Coello a la comunidad #LibertadPorElSaber.

Te invitamos a ver a la transmisión #EnLínea de la ceremonia de ingreso.

?https://t.co/Mswhxfj4Js pic.twitter.com/0LXnj6GeF6

— El Colegio Nacional (@ColegioNal_mx) May 6, 2023

Si bien el experto reconoció que esta dinámica es para ayudarnos y facilitarnos el acceso a determinadas búsquedas, también genera un dilema debido a que se otorga a diferentes empresas a las que muchas veces no quisiéramos que llegara.

“Lo que estoy hablando es captado por algoritmos que hay en el teléfono y le pasan la información a empresas como Facebook. Todo eso debería estar regulado porque hay tal vez información que yo no quisiera que se la den a alguna red social y todo eso ocurre hoy. A la vez que nos presentan una ventaja, hay un poco de invasión a la privacidad y hay riesgos en torno al uso que se le dé a la información“, añadió.

En el sentido de que la tecnología y la Inteligencia Artificial provoque la pérdida de trabajos, el doctor Carlos Coello Coello sostuvo que los empleos que se pierdan tienen que ver con la automatización de procesos, algo que ocurriría incluso sin el desarrollo de algoritmos.

«Mi ingreso a El Colegio Nacional reconoce a la comunidad en torno a la computación de nuestro país, pues es evidente que, más que reconocer la labor de una sola persona, se reconoce a una disciplina que se ha vuelto fundamental para el desarrollo de la ciencia no sólo en México,… pic.twitter.com/XpuYie1rzf— El Colegio Nacional (@ColegioNal_mx) May 6, 2023

De esa forma es que habrá un impulso a los estudios y la preparación en ciertas áreas, pero esto con el fin de que haya mejores productos. No obstante, reconoce que el problema es en el mal uso que se le dé, pero esto no es una excepción de la IA, sino pasa con cualquier herramienta.

Respecto al boom que tuvo la herramienta ChatGPT, el especialista comentó que en la actualidad el temor dentro de la academia es que los estudiantes usen este software para la realización de sus trabajos, pero que es posible identificar si un texto fue hecho con esta tecnología, incluso a través de otros algoritmos.

“ChatGPT no se está inventando nada porque no es un algoritmo con creatividad, como la que tenemos los humanos. Lo que hace es tomar una gran cantidad de información, hacer un resumen y estructurarlo. Claro que es asombroso y parece hecho por una persona, pero es un algoritmo sofisticado y costoso computacionalmente”, detalló.

El experto contó que desde hace décadas trabaja con algoritmos que se usan para detectar tumores cancerígenos. Si bien dan información sobre su naturaleza, son los especialistas quienes confirman el resultado y además lo comunican porque puede haber una equivocación en el software.

“Estos algoritmos no son infalibles, a veces se equivocan. El uso que se da es lo que para muchos de nosotros es lo importante, el cómo se utilice, pero el fin siempre ha sido que sirvan como una extensión y que nosotros nos enfoquemos en hacer cosas creativas, usar nuestra imaginación, que el trabajo sea más relajado y menos estresante“, apuntó.

Respecto a las palabras del doctor Geoffrey Hinton sobre el riesgo de los chatbots, consideró que a veces todos los expertos exageran un poco los alcances de la tecnología.

“Para empezar estas herramientas como el ChatGPT, que se llama inteligencia artificial generativa, son impresionantes pero tienen debilidades que son de hecho fáciles de detectar. Por ejemplo si se le hace la misma pregunta más de una vez, se dará cuenta que la respuesta no es la misma, que cambia, y a veces la segunda o la tercera vez da una respuesta equivocada porque cada vez que se le pregunta ajusta los datos y da la respuesta”, comentó.

«Los problemas de optimización multi-objetivo son aquellos en los que tenemos dos o más funciones objetivo que deseamos optimizar simultáneamente. En otras palabras, mejorar un objetivo, empeora al menos uno los demás» Carlos Coello Coello.

?https://t.co/Mswhxfj4Js pic.twitter.com/yCeQezeLjf— El Colegio Nacional (@ColegioNal_mx) May 6, 2023

El especialista sostuvo que los algoritmos carecen de elementos que posee la inteligencia humana, como son la conciencia. “Estos algoritmos lo que buscan es simular la inteligencia, no ser inteligentes como tal”, dijo el computólogo.

El doctor Carlos Coello Coello apuntó que más que la Inteligencia Artificial se la que represente un riesgo por sí misma, la mayor situación que debería preocupar a la humanidad fue una que apuntó hace poco el lingüista Noam Chomsky.

“Chomsky publicó un artículo interesante donde él lo ve como la muerte de la creatividad humana. Él dice que si estas herramientas se vuelven de uso extendido ya nadie va a querer escribir nada. Ese es un peligro evidente, que el humano se vuelva más flojo”, puntualizó.