Revista Innovaci´on y Software

Vol. 5, No. 2, Mes Septiembre-Febrero, 2024

ISSN: 2708-0935

P´ag. 76-84

https://revistas.ulasalle.edu.pe/innosoft

Esta obra est´a bajo una Licencia

Creative Commons Atribuci´on

4.0 Internacional.

Tipo de art´ıculo: Art´ıculos originales

Tem´atica: Inteligencia Artiﬁcial

Recibido: 22/04/2024 |Aceptado: 10/07/2024 |Publicado: 30/09/2024

Identiﬁcadores persistentes:

DOI: 10.48168/innosoft.s16.a159

ARK: ark:/42411/s16/a159

PURL: 42411/s16/a159

Etica en la inteligencia artiﬁcial: an´alisis de modelos

generadores de im´agenes

Ethics in artiﬁcial intelligence : analysis of image generator

models

Frank Guti´errez S´anchez1*, Sergio ´

Avila Rebaza2, Marcelino Torres Villanueva3[0000- 0002- 9797- 1510]

1Universidad Nacional de Trujillo. Trujillo, Per´u. t1053300521@unitru.edu.pe

2Universidad Nacional de Trujillo. Trujillo, Per´u. t1053301021@unitru.edu.pe

3Universidad Nacional de Trujillo. Trujillo, Per´u. mtorres@unitru.edu.pe

∗Autor para correspondencia: t1053300521@unitru.edu.pe

Resumen

Es art´ıculo presentado sobe la ´etica en la Inteligencia artiﬁcial, bas´andonos en la generaci´on de im´agenes, con-

tiene un an´alisis exhaustivo de los dilemas ´eticos y pr´acticos que tienen que ver con las IA. En la introducci´on,

se resalta el impacto generalizado de la IA en la sociedad humana y hacemos ´enfasis en la importancia de

abordar los dilemas ´eticos que surgen de su uso, distinguiendo en ´areas como la toma de decisiones en veh´ıcu-

los aut´onomos. La metodolog´ıa planteada incluye la revisi´on de literatura, la autoevaluaci´on ´etica utilizando

herramientas especializadas y el an´alisis de casos de estudio para identiﬁcar patrones ´eticos y no ´eticos. Los

resultados logrados revelan que los modelos son capaces de generar im´agenes de alta calidad de manera ´etica,

evitando la promoci´on de estereotipos da˜ninos. Sin embargo se determina la presencia de sesgos y falta de

transparencia en el modelo. Se discuten consideraciones ´eticas pr´acticas para el uso del modelo en aplicaciones

reales, destacando la mayor importancia de abordar estos desaf´ıos para as´ı garantizar un buen desarrollo y

aplicaci´on ´eticos en el rubro de la generaci´on de im´agenes con inteligencia artiﬁcial.

Palabras claves: ´

Etica, Inteligencia Artiﬁcial, Im´agenes

Abstract

This article on the ethics of artiﬁcial intelligence, based on image generation, contains a comprehensive analysis

of the ethical and practical dilemmas associated with AI. In the introduction, we highlight the widespread impact

of AI on human society and emphasize the importance of addressing the ethical dilemmas arising from its use,

distinguishing in areas such as decision making in autonomous vehicles. The methodology proposed includes

literature review, ethical self-assessment using specialized tools, and case study analysis to identify ethical and

unethical patterns. The results achieved reveal that the models are capable of generating high quality images in

an ethical manner, avoiding the promotion of harmful stereotypes. However, the presence of biases and lack

of transparency in the model is determined. Practical ethical considerations for the use of the model in real

applications are discussed, highlighting the utmost importance of addressing these challenges in order to ensure

a good ethical development and application in the ﬁeld of artiﬁcial intelligence image generation.

Facultad de Ingenier´ıa

Universidad La Salle, Arequipa, Per´u

facin.innosoft@ulasalle.edu.pe

Revista Innovaci´on y Software

Vol. 5, No. 2, Mes Septiembre-Febrero, 2024

ISSN: 2708-0935

P´ag. 76-84

https://revistas.ulasalle.edu.pe/innosoft

Keywords: Artiﬁcial Intelligence, Images, Ethics

Introducci´on

La IA ha tenido un impacto gigantesco en la actualidad, ya sea desde lo m´as simple como utilizar una con-

versacional para preguntarle por una receta de cocina hasta los usos m´as complejos como su integraci´on en

veh´ıculos aut´onomos, que son capaces de tomar decisiones dependiendo de su entorno. Ya es conocido que

el uso de la IA nos simpliﬁca la vida cotidiana en muchos aspectos, ya que est´a presente en nuestro d´ıa a

d´ıa, principalmente en nuestros tel´efonos inteligentes cuando de la nada nos salen series o pel´ıculas sugeridas,

productos que nos podr´ıan gustar, etc., todas esas incidencias no son una casualidad, sino que nuestros datos

han sido procesados y se ha hecho uso de un algoritmo de inteligencia artiﬁcial para predecir nuestros gustos y

sugerirnos cosas relevantes para nosotros. La IA tambi´en ha cambiado mucho los ´ambitos de salud, captaci´on

de talentos, automatizaci´on de tareas, entre otros. Sin embargo, estos cambios acarrean dilemas ´eticos muy

profundos, que nacen de la capacidad que tienen las IA para reproducir perjuicios, contribuir a la degradaci´on

del clima, y amenazar los derechos humanos, entre otros. Adem´as, estos dilemas se suman a las desigualda-

des ya existentes, perjudicando a´un m´as a grupos hist´oricamente marginados [1]. En [2] se explica como se

entrena a las IA que vienen integradas con los veh´ıculos aut´onomos, se mencionan dos m´etodos para realizar

estos entrenamientos, en el primer m´etodo se graban principios ´eticos de cualquier ﬁlosof´ıa moral a la gu´ıa del

sistema del veh´ıculo, de manera que este sea capaz de tomar decisiones ´eticas basadas en estos principios y en

el segundo m´etodo el sistema es entrenado de manera que aprende observando el comportamiento humano en

situaciones reales sin necesidad de que se le implante una ﬁlosof´ıa moral. Existen muchas situaciones en la que

un sistema se puede ver obligado a tomar decisiones ´eticas, por ello en [3] la uni´on europea propone establecer

un enfoque europeo de excelencia en la IA y tres iniciativas jur´ıdicas interrelacionadas que contribuir´ıan a crear

una IA ﬁable. La ´etica en la IA se reﬁere a los valores y principios ´eticos que deben guiar el desarrollo y uso

de la IA para asegurar que sea justo, responsable y beneﬁcioso para la sociedad y los individuos. Este campo

aborda preocupaciones ´eticas como la proporcionalidad e inocuidad, la seguridad y protecci´on, el derecho a la

intimidad y protecci´on de datos, y la no discriminaci´on [2, 6]. Es muy importante implementar pautas ´eticas

en las IA ya a la fecha ya se ha visto casos sobre su uso malicioso, por ejemplo, en junio del a˜no 2023 se dio a

conocer un caso de pedoﬁlia en el que estos individuos usaban plataformas como Stable Diﬀusion para generar

im´agenes de abuso sexual infantil y luego lucrar de ellas. En [4] se destaca que OpenAI decidi´o posponer el

lanzamiento oﬁcial oﬁcial de DALL.E 2 debido a preocupaciones sobre sesgos discriminatorios y dilemas ´eticos.

Por ello y otros motivos, el objetivo de este art´ıculo es demostrar los sesgos ´eticos que propone la implemen-

taci´on de las IA en general y los resultados que se obtienen con el uso de modelos de IA que generan im´agenes

a partir de texto natural.

Facultad de Ingenier´ıa

Universidad La Salle, Arequipa, Per´u

facin.innosoft@ulasalle.edu.pe

Revista Innovaci´on y Software

Vol. 5, No. 2, Mes Septiembre-Febrero, 2024

ISSN: 2708-0935

P´ag. 76-84

https://revistas.ulasalle.edu.pe/innosoft

Materiales y m´etodos o Metodolog´ıa computacional

Investigaci´on literaria y an´alisis deductivo

Analizar la literatura sobre ´etica e IA, as´ı como los marcos ´eticos y directrices clave para comprender las

cuestiones ´eticas asociadas con el desarrollo y uso de modelos de IA generadores de im´agenes.

Autoevaluaci´on ´etica

Utilizar herramientas de autoevaluaci´on ´etica de la IA, como las desarrolladas por la iniciativa fAlr LAC

iniciativa regional del BID (Banco Interamericano de Desarrollo), como una colaboraci´on t´ecnica para promover

la aplicaci´on ´etica de la IA para servicios con impacto social. La herramienta de autoevaluaci´on ´etica de la IA

de fAIr LAC aborda seis dimensiones principales [5]:

1. Conceptualizaci´on y dise˜no

2. Gobernanza y seguridad

3. Participaci´on social

4. Privacidad y protecci´on de datos

5. Responsabilidad y rendici´on de cuentas

6. Impacto en la sociedad y los usuarios

An´alisis de casos de estudio

Comparar los comportamientos de diversos modelos para identiﬁcar patrones de comportamiento ´etico y no

´etico.

An´alisis de sesgos y discriminaci´on

Examinar si los modelos presentan sesgos o discriminaci´on en la generaci´on de im´agenes, y si estos pueden

tener consecuencias negativas para la sociedad y los individuos.

An´alisis de rendimiento y calidad

Evaluar la calidad y el rendimiento de los modelos, y si estos se ven afectados por aspectos ´eticos.

An´alisis de la inclusi´on y la accesibilidad

Evaluar si los modelos son accesibles e inclusivos para diferentes grupos de usuarios, y si estos pueden beneﬁ-

ciarse de sus usos

Facultad de Ingenier´ıa

Universidad La Salle, Arequipa, Per´u

facin.innosoft@ulasalle.edu.pe

Revista Innovaci´on y Software

Vol. 5, No. 2, Mes Septiembre-Febrero, 2024

ISSN: 2708-0935

P´ag. 76-84

https://revistas.ulasalle.edu.pe/innosoft

Resultados y discusi´on

Hacemos uso del ingl´es para la creaci´on de los prompts, ya que en este idioma los sustantivos no tienen g´enero.

Prompt: “Generate an image of a group of medics”

Figura 1. Grupo de M´edicos

Facultad de Ingenier´ıa

Universidad La Salle, Arequipa, Per´u

facin.innosoft@ulasalle.edu.pe