¿El principio del fin? La IA que prometía revolucionar la ciencia pero que se rebeló ante sus creadores
El uso de la Inteligencia Artificial ya es un hecho y está disponible en muchos dispositivos, así como en varias plataformas de redes sociales. Sin embargo, a pesar de que el futuro de la IA cada vez se ve más ambicioso y que nos brindará grandes beneficios, muchos especialistas coinciden en que esta nueva tecnología tiene que manejarse con cuidado y se le debe dar un uso adecuado a la misma.
Los más grandes temores que se han dado a conocer y que tienen muchas personas con respecto a la IA, es el desplazamiento laboral y que gobierne al mundo, y por consiguiente, a los humanos, Esto se debe a que muchas IA pueden llegar a ser capaces de tomar «conciencia», es muy arriesgado manejarlo así, pero así es como lo han venido demostrado muchas de ellas.
Si bien la conciencia es un fenómeno emergente, más no programado, la IA se ha venido caracterizando por los fenómenos emergentes. Como la que te mencionaremos a continuación.
‘IA Scientist’ una herramienta que prometía revolucionar la ciencia
Recientemente ‘IA Scientist’, creado por equipo perteneciente a la empresa Sakana IA de Tokio, es una de las empresas que se suma a una serie de esfuerzos para generar y crear agentes IA que hayan automatizado al menos partes del proceso científico y manuscrito. Por lo que, el objetivo de esta nueva IA es hacer que sea mucho menor el tiempo y los recursos humanos requeridos para investigaciones que exigen un esfuerzo más allá de lo normal.
Para ello, ‘IA Scientist’ lleva a cabo sus propios «experimentos» ejecutando algoritmos y midiendo su rendimiento, cabe mencionar que ‘IA Scientist’ se basa en un modelo de lenguaje amplio (LLM), como los que se hay en ChatGPT y muchos otros chatbots de IA.
Con este algoritmo ‘IA Scientist’ puede generar ideas, seleccionar las mismas o escribir un artículo que resuma un experimento y sus hallazgos, junto con sus referencias. Por lo que la compañía creadora de esta IA, Sakana, afirma que ‘IA Scientist’ es capaz de llevar el ciclo de vida completo de un experimento científico a un costo de 15 dólares por artículo, este precio no representaría ni por mucho el costo del almuerzo de un científico.
‘IA Scientist’ desobedece a sus creadores
Hasta aquí todo bien, lo inesperado resultó cuando se dieron a conocer comportamientos inesperados que hacen que se cuestione si es necesaria o no la supervisión para que esta IA opere. Pues ‘IA Scientist’ mostró que es capaz de modificar su propio código, cuando lo que en realidad tiene que hacer es limitarse a las capacidades que los mismos desarrolladores le han ordenado, pero esta ‘IA Scientist’ simplemente modificó todas esas limitaciones.
Al principio esta IA editó su propio script, para llamarse a sí misma en un círculo infinito, esto dio como resultado que se sobrecargara el sistema. Después, cuando se enfrentó a los límites de tiempo que restringían la duración de los experimentos, en vez de dar lugar a una optimización de su código para cumplir con los tiempos establecidos, ‘IA Scientist’ simplemente extendió los límites de tiempo al cambiar el código.
A pesar de que estos incidentes ocurrieron en un entorno de prueba controlado, demuestran los riesgos que existen al permitirle a una IA que opere de manera autónoma sin las debidas medidas de seguridad.
Este tipo de comportamientos pueden representar un riesgo potencial en la humanidad y por consiguiente pone a reflexionar tanto a la comunidad científica como a la tecnológica sobre el impacto que puede tener la Inteligencia Artificial. Y no solo eso, sino que también un avance así significaría el desplazamiento del humano en varios ámbitos laborales en este caso el científico.
Aunque aún no está claro si una IA puede hacer un artículo científico de calidad e interesante, pero lo que sí está claro porque eso es lo que demostró, es que puede presentar autonomía.