La IA cada vez hace más tareas por las personas y cuatro especialistas sanjuaninos advierten dónde está el límite

La discusión sobre el futuro de la Inteligencia Artificial dejó de estar limitada a la posibilidad de que una máquina pueda responder preguntas o generar una imagen. Los sistemas de hoy, ya permiten automatizar tareas, analizar información y ejecutar acciones a partir de una instrucción general. Ese avance volvió a poner sobre la mesa una pregunta que hace años parecía propia de la ciencia ficción: ¿hasta dónde puede llegar la IA y dónde debería estar el límite?

Para conocer cómo se observa este proceso desde distintos ámbitos, 0264 Noticias consultó a cuatro especialistas sanjuaninos. Matías Sancassani, desarrollador FullStack; Sebastián Vidable, empresario del sector; Catalina Olguín, licenciada en Psicopedagogía; y Florencia Guillen, licenciada en Sociología y profesora de Sociología, quienes analizaron el fenómeno desde perspectivas diferentes.

El problema está en los controles

Para el desarrollador Matías Sancassani, se debe analizar teniendo en cuenta cómo está construido cada sistema y cuáles son las herramientas. "Una IA ya puede tomar decisiones y acciones por su propia cuenta dentro de un sistema, lo importante es qué permisos tiene y qué controles existen sobre esas acciones, las que los humanos le brindamos".

El especialista diferenció entre una repuesta inesperada de un sistema y una supuesta voluntad propia. Según explicó, las herramientas actuales trabajan a partir de los datos, instrucciones y objetivos con los que fueron diseñadas. "Para que una IA pierda su control total, técnicamente tendría que tener un alto grado de autonomía, acceso a recursos, sistemas y capacidad de modificar sus propios procesos, junto con controles insuficientes". 

En ese contexto, Sancassani ubicó los principales riesgos en situaciones que ya forman parte del presente, como la desinformación, los fraudes, los ataques cibernéticos, las decisiones equivocadas y el impacto sobre determinados trabajos. "La programación atraviesa una etapa de incertidumbre por las tareas que estas herramientas pueden realizar, aunque existen vulnerabilidades cuando se desarrollan sistemas con IA". Ante este escenario, planteó algunas medidas que deberían existir. "Es momento de que haya regulaciones, auditorías, límites y supervisión humana, especialmente cuando las decisiones puedan afectar directamente a las personas".

Lee también: El nuevo perfil de las maternidades en San Juan, menos nacimientos y más embarazos después de los 35: la mirada de dos especialistas locales

De programas a pedir resultados

Desde el ámbito comercial Sebastían Vidable, empresario del sector, observa que la transformación se refleja en la manera en que los consumidores se acercan a la tecnología. "El cliente llega con una necesidad vinculada al trabajo, el diseño o alguna actividad empresarial, y es a partir de allí cuando aparecen las distintas posibilidades que ofrecen los nuevos equipos que incorporan funciones y procesadores preparados específicamente para inteligencia artificial”. Vidable señaló que equipos Copilot+ y procesamiento local de IA comenzaron a formar parte de las conversaciones habituales. 

Por eso, una de las preguntas centrales que realizan al momento de asesorar a un cliente es para qué va a utilizar el equipo. Para el referente, la incorporación de IA tiene sentido cuando responde a una necesidad concreta. "Estamos pasando de aprender cómo funciona cada programa a decirle a la computadora qué resultado queremos obtener".

Ese proceso permite que personas sin conocimientos avanzados puedan acercarse a actividades como la edición de imágenes, las presentaciones, las planillas, la programación básica o la edición de video. Pero Vidable considera que el conocimiento profesional sigue siendo determinante para aprovechar mejor las herramientas. “Creo que el límite aparece cuando dejamos de utilizar la inteligencia artificial como herramienta y empezamos a delegarle también nuestro criterio”.

Cuando la respuesta inmediata reemplaza el aprendizaje

La psicopedagoga Catalina Olguín llevó la discusión al ámbito educativo y al desarrollo de las capacidades individuales, especialmente entre niños y adolescentes. En su experiencia, uno de los cambios más visibles aparece en la forma en que algunos estudiantes utilizan estas herramientas. “Actualmente son muchos los alumnos que resuelven evaluaciones o cuestionarios con IA, lo que ha llevado a varios docentes y autoridades a sancionar tal acción”.

Olguín explicó que, existe otra dificultad: muchos estudiantes no se detienen a comprobar la información que reciben, aun cuando puede contener errores. Para la especialista, esa práctica puede afectar procesos que van más allá de una tarea escolar. "Limitar la capacidad de pensamiento e introspección se ve reflejada también en la socialización”, expresó. Otro de los puntos que marcó está relacionado con el uso de la IA para cuestiones vinculadas con la salud. Advirtió que recurren a estos sistemas para obtener orientación sobre salud mental o física y pueden seguir recomendaciones sin contar con una evaluación profesional.

Pero Olguín planteó que la herramienta puede tener una utilización beneficiosa dentro del aprendizaje, siempre que ayude al estudiante a comprender. “Se puede pedir a la inteligencia artificial una adaptación o explicación para el nivel de cada alumno, siempre y cuando esto se realice buscando la comprensión por vía propia y no solamente la búsqueda de una respuesta inmediata”.

En ese proceso, las familias también tienen un papel importante. La especialista considera importante enseñar a utilizar herramientas según sus necesidades, pero también advertirles sobre el manejo de información personal. “La herramienta” debería funcionar como un asistente y no como “una respuesta fácil”, sostuvo, al remarcar la importancia de prestar atención a los datos que los usuarios entregan a estas aplicaciones.

Lee también: Adopción en San Juan: las posibilidades de encontrar una familia caen después de los 6 años y son aún menores para niños con enfermedades

la IA también puede modificar las relaciones de poder

Desde la Sociología, Florencia Guillen amplió el análisis hacia el impacto que puede tener esta tecnología sobre la estructura de las sociedades. Para la especialista, la discusión no puede separarse de las condiciones económicas y educativas de cada comunidad. El acceso a la tecnología no significa que todas las personas tengan las mismas posibilidades. “Siempre que las sociedades incorporan nuevas tecnologías, se modifica la sociedad, se modifica la estructura y los ámbitos políticos, económicos y sociales”.

Guillen considera que esas diferencias pueden generar nuevas formas de desigualdad entre sociedades con distintos niveles de desarrollo. En ese contexto, la educación ocupa un lugar central, no solo para utilizar una herramienta, sino para contar con conocimientos que permitan comprenderla, cuestionar sus resultados y decidir cómo utilizarla. La socióloga tampoco plantea que el avance de la IA implique la desaparición del ser humano. Para ella, existen capacidades que continúan siendo fundamentales frente al desarrollo tecnológico. “Lo que nos hace a nosotros humanos es la posibilidad de razonar, del pensamiento crítico, de utilizar esa tecnología con ética”.

Por eso, considera necesario reforzar conocimientos básicos como la comprensión de textos, el lenguaje y las matemáticas. Son herramientas que resultan necesarias para quienes desarrollan y programan estos sistemas. En el ámbito laboral, Guillen anticipó importantes modificaciones. "No van a desaparecer tareas completas, pero muchas deberán transformarse con mayor velocidad y exigir nuevas habilidades".

Los cuatro especialistas no señalan un único peligro, cada uno observa el avance de la IA desde un lugar diferente. La discusión no pasa por saber hasta dónde puede llegar la Inteligencia Artificial, implica definir qué tareas se le entregarán, qué decisiones continuarán dependiendo de las personas y qué conocimientos deberán conservarse para que la tecnología sea una herramienta y no un reemplazo del criterio humano.