El uso masivo de IA amenaza con destruir el pensamiento crítico individual

Los chatbots basados en inteligencia artificial podrían estar contribuyendo a estandarizar la forma en que las personas escriben, hablan e incluso razonan. Así lo plantea un grupo de científicos informáticos y psicólogos en un artículo publicado en la revista Trends in Cognitive Sciences, de Cell Press, en el que analizan cómo el uso extendido de modelos de lenguaje puede influir en la diversidad cognitiva de las sociedades.

El trabajo está liderado por Zhivar Sourati, científico informático de la Universidad del Sur de California, quien explica que las personas tienen formas diferentes de expresarse y de interpretar el mundo. Según el investigador, estas diferencias pueden diluirse cuando millones de usuarios interactúan con los mismos sistemas de inteligencia artificial.

"Las personas difieren en su forma de escribir, razonar y ver el mundo", señala Sourati. "Cuando estas diferencias son mediadas por los mismos modelos de lenguaje, su estilo lingüístico, perspectiva y estrategias de razonamiento distintivos se homogeneizan".

De acuerdo con los autores, el uso creciente de herramientas de IA para tareas como redactar textos, revisar escritos o generar ideas puede provocar que la producción lingüística adopte patrones cada vez más similares. En el caso de la escritura, por ejemplo, los investigadores apuntan que los usuarios que recurren a chatbots para mejorar sus textos pueden perder parte de su estilo individual.

También sostienen que este proceso puede influir en la percepción de lo que se considera un argumento válido o una forma adecuada de razonar. "La preocupación no es solo que los modelos de lenguaje moldeen cómo escribe o habla la gente, sino que redefinan lo que cuenta como discurso creíble o buen razonamiento", advierte Sourati.

La diversidad cognitiva como motor de creatividad

Los investigadores subrayan que la diversidad cognitiva —las diferentes formas de pensar, analizar problemas y generar ideas— es un factor clave para la creatividad y la resolución de problemas dentro de grupos y sociedades.

Sin embargo, advierten de que esta diversidad podría verse afectada si miles de millones de personas recurren a los mismos sistemas de IA para realizar tareas intelectuales. El artículo señala que algunos estudios ya han observado diferencias entre contenidos generados por humanos y por modelos de lenguaje.

Por ejemplo, citan investigaciones que muestran que los textos producidos por modelos de lenguaje tienden a ser menos variados y a reflejar con mayor frecuencia los valores y estilos de razonamiento predominantes en sociedades occidentales, educadas, industrializadas, ricas y democráticas.

Según Sourati, esto se debe a que estos sistemas están entrenados para identificar y reproducir patrones estadísticos presentes en sus datos de entrenamiento, que en muchos casos están dominados por determinados idiomas, contextos culturales o marcos ideológicos.

Impacto en la generación de ideas

El artículo también analiza cómo el uso de inteligencia artificial puede influir en la generación de ideas. Algunos estudios indican que los individuos pueden producir más ideas y con mayor nivel de detalle cuando utilizan modelos de lenguaje.

No obstante, los autores apuntan que los resultados cambian cuando el trabajo se realiza en grupo. En esos casos, los equipos que utilizan herramientas de IA tienden a generar menos ideas y menos creativas que aquellos que trabajan únicamente con la aportación colectiva de sus miembros.

Los investigadores señalan que esto podría deberse a que los usuarios suelen aceptar las sugerencias generadas por los sistemas de IA si les parecen "suficientemente buenas", en lugar de desarrollar alternativas propias.

"En lugar de dirigir activamente la generación, los usuarios a menudo se dejan llevar por las continuaciones sugeridas por el modelo", explica Sourati. A su juicio, este comportamiento puede desplazar gradualmente la iniciativa creativa desde el usuario hacia el sistema.

Influencia en opiniones y formas de pensar

Los científicos también citan estudios que indican que las opiniones de las personas pueden aproximarse a las posiciones reflejadas por los modelos de lenguaje con los que interactúan, especialmente cuando estos presentan determinados sesgos.

Además, señalan que muchos sistemas favorecen estilos de razonamiento estructurados y secuenciales, como el denominado razonamiento en cadena, que presenta los argumentos paso a paso. Este enfoque puede reducir el uso de otros modos de pensamiento, como el razonamiento intuitivo o abstracto.

Los autores consideran que estos cambios pueden afectar incluso a quienes no utilizan directamente estos sistemas. Según Sourati, la presión social podría impulsar a las personas a adoptar estilos de comunicación similares a los que predominan en su entorno, especialmente si esos estilos se perciben como más aceptados o creíbles.

Propuestas para preservar la diversidad cognitiva

Ante este escenario, los investigadores plantean que los desarrolladores de inteligencia artificial incorporen deliberadamente una mayor diversidad lingüística, cultural y de razonamiento en los datos con los que se entrenan los modelos.

Esta diversidad, subrayan, debería reflejar las distintas formas de pensar presentes en las sociedades humanas y no limitarse a introducir variaciones aleatorias.

"Si los modelos de lenguaje tuvieran formas más diversas de abordar ideas y problemas, podrían apoyar mejor la inteligencia colectiva y la resolución de problemas en nuestras sociedades", concluye Sourati.