Inteligencia artificial, ética e investigación

 

Antes de emprender cualquier proyecto intelectual, siempre es conveniente tener claros los conceptos fundamentales y las ideas o axiomas desde los cuales se parte. Se puede hacer de otro modo, pero este es el mejor modo de proceder según hemos descubierto. Es por eso que las investigaciones científicas tienen un marco teórico y un marco conceptual (el orden en que aparecen puede variar dependiendo de los intereses del investigador y del metodólogo de consulta porque, como veremos a continuación, no hay camisas de fuerza en metodología).

Partiendo de esa premisa, y para ponerla en práctica, voy a delimitar primero los conceptos centrales sobre los cuales orbita lo que quiero plantear aquí. El tema que nos ocupa es el del uso ético de la inteligencia artificial en la investigación formativa, y en él hay tres conceptos centrales: ética, inteligencia artificial e investigación formativa. Dos de estos conceptos tienen, además de un sustantivo, un adjetivo. Y esos adjetivos son importantes, porque significan que los conceptos refieren a un conjunto mayor del cual se desprende el elemento al que referimos.

Inteligencia artificial

Empecemos con el concepto de «inteligencia artificial», que es tal vez el que más fácil podríamos definir. Lo de «tal vez» es porque, en realidad, no es nada fácil si nos metemos con los problemas detrás del concepto —y nos meteremos solo un poquito, solo para esbozar las bases de este discurso—, pero, al ser una etiqueta que se usa mucho últimamente, es sencillo al menos referir a ella con cierto nivel de acuerdo.

El concepto tiene un sustantivo y un adjetivo. El sustantivo «inteligencia» hace referencia a una capacidad humana, producto de su evolución, que le permite utilizar de manera constructiva el pensamiento, distinguir críticamente elementos esenciales de elementos periféricos a partir de la complejidad perceptual, y enfrentar desafíos inéditos. Lo relevante aquí es que se trata de una capacidad humana que es producto de su evolución y, por lo tanto, hablamos de una emergencia biológica. Ya hemos tratado este asunto del pensamiento como actividad biológica en otro artículo de esta revista, y lo trabajamos con mucho detalle en un artículo publicado en La Barca de Teseo en 2023 (Santana-Soriano, 2023).

El adjetivo que delimita a este sustantivo es el de «artificial», que nos remite al concepto de «artefacto». Podemos definir artefacto como un objeto producido por un agente con capacidad técnica, mediante la transformación intencional de elementos naturales, con el propósito de cumplir una función que el mundo natural no provee de manera espontánea. Esta caracterización parte de la distinción aristotélica entre physis y techné: los entes naturales poseen en sí mismos el principio de su movimiento y de su reposo, mientras que los artefactos reciben su forma y su función desde el exterior, por la acción de un agente que orienta la materia hacia una finalidad previamente establecida (Aristóteles, Física, II.1, 192b13–15).

Lo artificial designa, entonces, todo objeto cuya forma no se sigue de ninguna tendencia intrínseca de la materia, sino que es el resultado de una operación técnica cargada de intencionalidad. Es artificial todo aquello que no es natural.

Dicho esto, nos damos cuenta de que en la etiqueta «inteligencia artificial» hay un oxímoron, una contradictio in adjecto, una contradicción intrínseca en la que el adjetivo contradice al sustantivo. Es comparable a decir «círculo cuadrado» o «fuego frío».

No obstante, los conceptos son propiedad exclusiva de los hablantes y adquieren por la práctica su significación. En ese sentido, podemos admitir el concepto de inteligencia artificial tal y como lo hemos estado usando en la cotidianidad, siempre y cuando no confundamos las cosas, ya que hay riesgos importantes si llevamos al extremo esta etiqueta, sobre todo cuando de ambientes formativos se trata.

Aceptado lo anterior, la inteligencia artificial se define como un software altamente complejo cuyo objetivo es emular las actividades inteligentes que realizan los seres humanos. En el caso de las IA generativas de texto, que son básicamente las que nos interesan en este caso, la intención detrás del software es generar textos a petición de un usuario de manera tal que ese texto sea indistinguible del que produciría un humano. Además, como se trata de un software que nos permite procesar grandes cantidades de datos en muy poco tiempo, las respuestas que podemos obtener abarcan una gran diversidad temática, distinto a lo que suele suceder con un humano que está limitado a su preparación y experiencia. Esto último nos pone frente a una verdadera ventaja en el uso de la inteligencia artificial, pero eso es algo bastante sabido ya.

Quedamos, pues, en que la IA es un intento de los seres humanos de crear un artefacto que sea capaz de llevar a cabo tareas altamente complejas y que regularmente requieren la puesta en acción de aquello que llamamos «inteligencia». Se trata de un artefacto —muy bueno, muy eficiente— pero no es un humano y, como tal, no piensa (en el sentido que hemos delimitado en el artículo sobre pensamiento), ni produce conocimiento nuevo, ya que se limita a la síntesis —cuando mucho— del conocimiento generado por los seres humanos a partir de la investigación.

Ética

El de ética es otro concepto que puede ser problemático. Y es así porque solemos usarlo para dos cosas muy disímiles: para la reflexión racional sobre lo que debe ser considerado como bueno, correcto y justo en todo contexto (esa es una definición muy usada en ambientes académicos) y, por otro lado, para hacer referencia a un conjunto de principios o normas generales que le dicen a una persona cómo actuar en ciertas circunstancias.

Ambas definiciones tienen algo de verdad. Pero no vamos a entrar en su problematización, sino que vamos a presentar una propuesta más parsimoniosa: la ética es una actitud humana definida subjetivamente de acuerdo a las valoraciones que el individuo es capaz de formularse respecto de aquello a lo que se acerca.

Esta concepción conserva de aquellas definiciones que esas valoraciones siempre tienden a lo que el individuo considera como bueno, como correcto o como justo, y que de esta actitud dependen los principios que el sujeto se formulará para conducirse por la vida y relacionarse con el entorno, con las cosas y con los demás.

Y aquí necesitamos un concepto mediador: el de moral. La moral es el conjunto de directrices que, implícita o explícitamente, se desarrollan y comunican en un grupo social con la intención de salvaguardar los intereses del colectivo, y que orientan, juzgan y validan las acciones ostensibles de los individuos.

Siendo así, sabremos si la actitud de un sujeto es correcta —o es buena, o es justa— cuando esta se evidencie en una acción que este lleve a cabo, ya que así el colectivo tiene acceso a la conducta del sujeto y puede juzgarle.

Retengamos, por ahora, esa definición de ética, ya que volveremos sobre ella más adelante: una actitud valorativa del sujeto que le lleva a actuar de los modos que considera buenos, correctos y justos en cada circunstancia que se le presenta.

Investigación científica

Llegamos a la investigación. Otro concepto que presenta un sustantivo delimitado por un adjetivo. El de investigación, en este caso, nos remite a la ciencia. Es decir, hablamos de investigación científica y, por economía de palabras, y dado que se infiere por el contexto, abreviamos usando solo el sustantivo.

La investigación científica es una actividad humana —énfasis en «humana»— consistente en la búsqueda de conocimiento verdadero sobre la realidad. El concepto de realidad es problemático por un asunto ontológico que no trataremos aquí, puesto que podemos sortearlo con una mirada descriptiva: eso que llamamos ciencia se realiza sobre un dominio de elementos materiales y, por lo tanto, la realidad de la investigación científica es una realidad eminentemente material. Sobre la relación entre filosofía y ciencia, y sobre los productos de la ciencia —hipótesis, leyes, teorías—, ya hemos escrito antes en esta columna.

La ciencia no es la única forma de búsqueda de conocimiento. Es solo una forma entre otras (como la filosofía, la religión, el arte, el conocimiento cotidiano). Tampoco quiero caer en valorarla como la mejor, aunque personalmente lo creo; esa valoración dependerá en gran medida de cada sujeto. Ahora bien, hay dos cosas aquí a tomar en cuenta: la primera es el hecho de que, ostensiblemente, la sociedad global actual valora como altamente productiva, positiva y buena la actividad científica y sus resultados; y la segunda es el hecho de que, cuando nos encontramos en un contexto de fomento de la investigación, estamos ante una comunidad que juzga como bueno el buen accionar científico.

¿Y qué es un buen accionar científico? Es aquel que reconoce los valores implícitos en la investigación: que los productos de la investigación sirven efectivamente para conocer más y mejor la realidad y, en ese sentido, son verdaderos y generan un aporte al corpus ya investigado; que se producen a partir de acciones honestas —no se fabrican datos y se declara explícitamente aquello de que se tiene certeza—; y que son replicables porque el investigador transparenta los pasos que lo llevaron a sus conclusiones, y explicita sus preconcepciones, los axiomas de los que parte y los límites de lo que sus datos efectivamente permiten sostener.

El valor transversal en esta concepción es el de la honestidad, pues este valor sirve como mediador entre aquellos otros, sobre todo entre la búsqueda de conocimiento verdadero y la comunicación final del trabajo del investigador.

En ese sentido, ya estamos en condición de sostener una primera tesis: sea cual sea la herramienta que se utilice en investigación científica, esta tiene que usarse desde la honestidad y el compromiso con la verdad.

Pero aun no hemos tratado el adjetivo «formativa». De eso, y de lo que ocurre cuando la inteligencia artificial entra en la formación del investigador, nos ocuparemos en la próxima entrega.