“La IA va a transformar profundamente nuestra sociedad. Por eso, no basta con preguntarnos qué puede hacer la IA. Tenemos que preguntarnos qué debería hacer, para quién y con qué coste. Ese es precisamente uno de los objetivos de ELLIS Alicante: desarrollar una Inteligencia Artificial responsable, centrada en las personas y orientada al Bien Social.

Conversamos con Nuria Oliver, directora y cofundadora de ELLIS Alicante, entidad sin ánimo de lucro dedicada a la investigación en Inteligencia Artificial, que participará en el Digital Fundraising Hub 2026, que se celebra en Barcelona el próximo 15 de octubre.

Nos recuerda que “en el Tercer Sector especialmente, la tecnología debe estar al servicio de la misión, no la misión al servicio de la tecnología” y recomienda que si una ENL quiere incorporar la IA de manera responsable, “lo primero es no empezar por la tecnología, sino por las necesidades. Una ONG debería identificar qué problemas quiere resolver y qué procesos podrían mejorar con IA, y preguntarse después si realmente es la herramienta adecuada y si es así, qué tipo de IA es el más adecuado. No todo problema necesita IA ni todas las IAs son iguales”. 

Abogas por una Inteligencia Artificial Socialmente Sostenible que sitúe a las personas y al bien común en el centro. ¿Cómo se podría lograr en este momento de su implantación? Y ¿qué principios debería cumplir una IA para ser realmente socialmente sostenible?

El reto no es simplemente conseguir una IA más potente, sino conseguir una IA que contribuya a una sociedad mejor y que ponga a las personas y al bien común en el centro. Para ello, necesitamos incorporar desde el diseño criterios sociales y éticos, evaluar de manera rigurosa sus impactos y garantizar que las personas mantengamos el control sobre las decisiones que nos afectan.

Hace casi una década, sinteticé esta visión en los principios FATEN: Fairness (justicia), Autonomy(autonomía)/Accountability (atribución de responsabilidad)/Augmentation (aumento en lugar de sustitución de la inteligencia), Trust (confianza) y Transparency (transparencia), Beneficence (beneficiencia, maximizando el impacto positivo con diversidad, veracidad, sostenibilidad) y Non-maleficence (no maleficencia, minimizando el impacto negativo, con fiabilidad, seguridad, reproducibilidad y preservando la privacidad).

La IA va a transformar profundamente nuestra sociedad. Por eso, no basta con preguntarnos qué puede hacer la IA. Tenemos que preguntarnos qué debería hacer, para quién y con qué coste. Ese es precisamente uno de los objetivos de ELLIS Alicante: desarrollar una Inteligencia Artificial responsable, centrada en las personas y orientada al Bien Social.

La IA ofrece grandes oportunidades, pero también plantea retos relacionados con la equidad, la privacidad o la transparencia. ¿Cuáles son los riesgos que más deberían preocuparnos en estos momentos?

Debemos preocuparnos especialmente por aquellos riesgos que ya están afectando a las personas, y no tanto por escenarios futuros hipotéticos. Entre ellos destacaría la desinformación y la manipulación a gran escala, la pérdida de privacidad, los sesgos y la discriminación, la creciente dificultad para distinguir qué contenidos son reales y cuáles han sido generados por IA, la ingente huella de carbono de la IA, la violación de la privacidad y la falta de diversidad en la IA como disciplina.

También me preocupa la tendencia a delegar decisiones importantes en sistemas que no siempre comprendemos suficientemente. En ámbitos como la salud, la educación, el empleo o la justicia, no podemos confundir una predicción algorítmica con una decisión que deba tomar una máquina. La IA debe ayudarnos a decidir, no sustituir nuestra responsabilidad ni nuestra capacidad de juicio. No podemos olvidar que aquello que no ejercitamos, lo perdemos, de manera que si dejamos de desarrollar el pensamiento crítico, si dejamos de escribir o si dejamos de leer, perderemos esas habilidades tan importantes para el ser humano.

Y hay un riesgo transversal: que la velocidad de desarrollo tecnológico sea mucho mayor que nuestra capacidad para evaluar sus consecuencias. Por eso necesitamos investigación, regulación, educación y mecanismos de evaluación y supervisión independientes que nos permitan identificar y corregir los problemas antes de que se conviertan en problemas sistémicos, además de una clara asunción de responsabilidad por parte de las empresas que despliegan sistemas de IA. 

¿Qué oportunidades ofrece la inteligencia artificial para abordar los grandes retos sociales y qué papel pueden desempeñar las ONG y las entidades del Tercer Sector en este ámbito?

La Inteligencia Artificial ofrece oportunidades enormes para abordar algunos de los grandes retos sociales: mejorar la prevención y la atención sanitaria y educativa, responder mejor ante emergencias, combatir el cambio climático, mejorar la accesibilidad o facilitar servicios más personalizados para colectivos vulnerables. También puede ayudarnos a comprender mejor problemas sociales complejos y a utilizar recursos limitados de forma más eficiente.

Pero para que estas oportunidades se traduzcan realmente en progreso social, necesitamos desarrollar la IA con la sociedad y para la sociedad. Y aquí las ONG y las entidades del Tercer Sector tenemos un papel fundamental: conocemos de cerca las necesidades de las personas, especialmente de quienes se encuentran en situaciones de mayor vulnerabilidad, y podemos contribuir a que la tecnología responda a problemas reales y no genere nuevas desigualdades.

En ELLIS Alicante, como entidad sin ánimo de lucro dedicada a la investigación en Inteligencia Artificial, creemos que la ciencia y la tecnología deben estar al servicio del bien común. Por eso apostamos por una IA centrada en las personas, rigurosa desde el punto de vista científico y responsable desde el punto de vista social.

Las ONG trabajan habitualmente con personas y colectivos en situación de vulnerabilidad. ¿Qué precauciones deberían adoptar al utilizar sistemas de IA para evitar sesgos, discriminación o un uso inadecuado de los datos?

Cuando trabajamos con personas en situación de vulnerabilidad, debemos ser especialmente cuidadosos porque un error de un sistema de IA puede tener consecuencias mucho mayores para quien ya se encuentra en una situación de desventaja.

La primera precaución es no asumir que la IA es neutral. Los datos pueden contener sesgos y los algoritmos pueden reproducir o incluso amplificar desigualdades. Por eso es fundamental evaluar los sistemas antes de utilizarlos, monitorizar sus resultados y comprobar específicamente si afectan de manera desigual a determinados colectivos.

La segunda es proteger los datos. Las ONG manejan información que puede ser extremadamente sensible, por lo que debemos aplicar el principio de minimización de datos: utilizar únicamente la información necesaria, con garantías claras de seguridad, privacidad y consentimiento, y tener especial cuidado con el uso de herramientas de IA generativa.

Y hay un principio que considero fundamental: la IA no debe sustituir el criterio humano cuando están en juego derechos, oportunidades o el bienestar de una persona. Debe existir supervisión humana, capacidad de cuestionar o corregir las decisiones del sistema y una persona responsable de las consecuencias.

En ELLIS Alicante defendemos precisamente una IA socialmente sostenible basada en los principios FATEN que he descrito brevemente anteriormente. Aplicados al Tercer Sector, significan hacernos preguntas que incluyen: ¿es justo?, ¿respeta la autonomía de la persona?, ¿es transparente?, ¿es éticamente aceptable? ¿podría causar daño?

La tecnología puede ser una herramienta extraordinaria para las ONG, pero la vulnerabilidad de las personas nunca debe convertirse en una razón para bajar nuestros estándares de protección. Al contrario, debe llevarnos a elevarlos.

La confianza es fundamental en la relación entre las organizaciones sociales y sus donantes. ¿Cómo puede afectar el uso de la IA a esa confianza y qué deberían hacer las organizaciones para preservarla?

La confianza es uno de los activos más importantes de cualquier organización social, y la IA puede ser una gran oportunidad, pero también un riesgo si se utiliza de manera opaca. La confianza no se construye escondiendo el uso de la IA, sino siendo transparentes sobre cuándo, cómo y para qué la utilizamos.

Las organizaciones deberían explicar claramente a sus donantes qué usos hacen de la IA, qué datos utilizan, con qué finalidad y qué medidas adoptan para protegerlos. También deberían asegurarse de que la tecnología no sustituye los valores y el criterio humano que están detrás de su misión.

Hay además que prestar especial atención a la personalización y segmentación de las comunicaciones. Utilizar IA para comprender mejor a los donantes puede ser positivo, pero no debemos cruzar la línea hacia la manipulación o utilizar información personal de una manera que las personas no esperan.

Desde ELLIS Alicante creemos que la transparencia debe ir acompañada de responsabilidad y supervisión humana. Si una organización utiliza IA para tomar decisiones que afectan a sus donantes o beneficiarios, debe poder explicar esas decisiones y asumir la responsabilidad por ellas.

La eficiencia no debería estar nunca por encima de la privacidad y los valores de la organización de los que tanto depende la confianza. En el Tercer Sector especialmente, la tecnología debe estar al servicio de la misión, no la misión al servicio de la tecnología.

¿Cómo podemos aprovechar la capacidad de la IA para automatizar procesos y personalizar sin perder el componente humano que caracteriza la relación con socios, donantes y beneficiarios?

La clave está en entender que automatizar no significa deshumanizar. La IA puede encargarse de tareas repetitivas como gestionar información, analizar datos, automatizar comunicaciones o identificar necesidades, para así liberar tiempo para que las personas de las organizaciones puedan dedicarlo precisamente a lo que la tecnología no puede sustituir: escuchar, comprender, acompañar y generar confianza.

La personalización también puede ser muy positiva si se hace de manera responsable. La IA puede ayudarnos a entender mejor las necesidades de socios, donantes y beneficiarios y ofrecerles información o servicios más relevantes. Pero debemos evitar que esa personalización se convierta en una relación puramente algorítmica o en una forma de manipulación.

Es importante decidir de manera consciente qué tareas tiene sentido automatizar y cuáles no. En ELLIS Alicante defendemos una IA centrada en las personas. Y eso implica también diseñar sistemas que sepan cuándo intervenir y cuándo dejar espacio a una persona.

Para una ONG que quiere empezar a incorporar la IA de manera responsable, ¿cuáles deberían ser los primeros pasos y qué errores debería evitar? 

Lo primero es no empezar por la tecnología, sino por las necesidades. Una ONG debería identificar qué problemas quiere resolver y qué procesos podrían mejorar con IA, y preguntarse después si realmente es la herramienta adecuada y si es así, qué tipo de IA es el más adecuado. No todo problema necesita IA ni todas las IAs son iguales. 

El segundo paso es establecer unas reglas claras de uso: qué datos se pueden utilizar, qué información nunca debe introducirse en una herramienta de IA, quién puede utilizarla y con qué finalidad. Es especialmente importante proteger los datos de las personas vulnerables y garantizar el cumplimiento de la normativa de privacidad.

También recomendaría empezar con proyectos pequeños y controlados, evaluar sus resultados y aprender antes de escalar. Y formar a los equipos: no basta con proporcionarles una herramienta; necesitan entender sus capacidades, sus limitaciones y sus riesgos.

Hay varios errores que deberíamos evitar. El primero es utilizar IA simplemente porque está de moda, sin un problema concreto que resolver. El segundo, confiar ciegamente en sus resultados: los sistemas pueden equivocarse, reproducir sesgos o generar información falsa. Y el tercero, automatizar decisiones que afectan a las personas sin mantener una supervisión humana adecuada.

Y añadiría una última recomendación: implicar a las personas desde el principio. Escuchar a trabajadores, voluntarios, beneficiarios y donantes puede ayudarnos a identificar tanto oportunidades como riesgos que desde una perspectiva puramente tecnológica quizá no detectaríamos.

¿Por qué no hay que perderse el Digital Fundraising Hub 2026?

Porque estamos ante un momento decisivo para el Tercer Sector. La Inteligencia Artificial está transformando la manera en que las organizaciones se relacionan con sus socios, donantes y beneficiarios, y necesitamos aprovechar sus oportunidades sin perder de vista nuestros valores ni el componente humano.

El Digital Fundraising Hub 2026 es una oportunidad para compartir experiencias, aprender de quienes ya están incorporando estas tecnologías y, sobre todo, para hacernos las preguntas adecuadas: ¿cómo podemos utilizar la IA para generar más impacto social?, ¿cómo protegemos la confianza y los datos de las personas?, ¿cómo evitamos que la tecnología amplíe las desigualdades?

Desde ELLIS Alicante creemos que la innovación y el compromiso social deben ir de la mano. Si trabajas en una ONG o en el Tercer Sector, yo diría que hay una razón fundamental para no perdérselo: la revolución de la IA ya está aquí, y es mejor participar activamente en su diseño que limitarse a reaccionar a sus consecuencias. Si trabajas para una organización donante, es una oportunidad única para conocer fundaciones que están a la vanguardia de la IA, como ELLIS Alicante. Es una gran oportunidad para ayudarnos a hacer posible desde ELLIS Alicante que la IA esté al servicio de las personas y del Bien Social.