La fundadora de ChatBlackGPT, Erin Reddick, lucha contra el sesgo racial de la IA con innovación cultural

La carrera de la inteligencia artificial tiene muchas carreras, siendo los chatbots los más populares. Sin embargo, los expertos han descubierto que estos conocidos modelos de IA a menudo tienen fallas importantes, incluidos sesgos. Uno tema integral es el prejuicio racial, donde los sistemas de inteligencia artificial luchan por responder con precisión preguntas relacionadas con las comunidades de color. Ingresar ChatNegroGPTun chatbot culturalmente consciente diseñado para contrarrestar y abordar el sesgo de la IA.

ChatBlackGPT se lanzó el 19 de junio, ampliamente conocido como Juneteenth, un feriado federal que celebra la emancipación de los esclavos en los EE. UU. y tiene como objetivo crear una experiencia de inteligencia artificial más inclusiva.

Casi tres meses después del lanzamiento del chatbot culturalmente inclusivo, la directora ejecutiva y fundadora Erin Reddick, de 30 años, habló con Mashable sobre la plataforma y su viaje por el mundo de la tecnología.

Mashable: ¿Qué es ChatBlackGPT?

Erin Reddick: ChatBlackGPT es una IA con conciencia cultural. es [a] Una IA generativa basada en el reconocimiento del racismo social, económico y sistémico, y de la diáspora de personas negras y de color en Estados Unidos. Esta es una oportunidad para que las personas de color tengan conversaciones significativas con la IA.

¿Cuál fue su experiencia con la inteligencia artificial y la tecnología antes de fundar ChatBlackGPT?

[It’s been] En total, unos cinco años. Entre Amazon, Microsoft y AWS… ha sido un viaje increíble. Siempre ha sido inspirador trabajar allí con gente maravillosa y es cierto que puede resultar muy aislante. Tienes que tener la piel dura y saber quién eres para tener éxito en el espacio. Pero me convirtió en la persona que soy hoy, que puede tener su propia narrativa en el espacio tecnológico y sentirse segura al hacerlo.

¿Por qué decidiste crear ChatBlackGPT y cómo lo hiciste?

Siempre quiero decir una palabra: racismo. Para ser sincero. Porque si no existiera, lo que hago no haría falta y no sería celebrado y apreciado tal como es.

Por ejemplo, si pregunta a los principales líderes actuales qué opinan de la tecnología, muchos de ellos dirán que es de bajo riesgo. Pero en realidad, no es menos peligroso para las personas negras y de color porque los prejuicios que persisten afectan nuestra vida diaria, dentro y fuera del lugar de trabajo. Esta es una tecnología de alto riesgo para nosotros y quiero hacer algo para que no nos quedemos estancados esperando políticas que obliguen a las empresas a reducir el riesgo y sufrir mientras tanto.

¿Puedes desentrañar el papel del sesgo en la IA?

El sesgo está en todas partes y es imposible deshacerse de él por completo. Si le preguntas a un chatbot normal y te digo: “¿Qué es un trabajo negro?” Él respondió que es un trabajo clandestino, tráfico de drogas sin impuestos y sin fines de lucro. Pero cuando preguntas “¿qué es el trabajo en blanco?” Dice generalmente educado, asegurado, legal, que paga impuestos. Si bien esto puede no parecer externamente un sesgo, lo que hace es reafirmar un sesgo que tienen muchas personas que tienen posturas y puntos de vista racistas o de supremacía: esto confirma su sesgo contra los negros. Es insultante porque somos personas negras que trabajamos en todo, no solo en los trabajos descritos por AI.

“¿La IA a cargo?” qué es

Lo describiría como un montón de datos limpios diferentes. Algo que ayude o sea responsable de reducir el riesgo, que funcione sin dañar a las personas y que sea justo y no cree potencial destructivo.

Él se desarrolla teniendo en mente al equipo rojo y a los malos actores, para que puedas asegurarte de que las personas que no pueden aprovecharlo de manera negativa. Constrúyelo con la responsabilidad de un diseño inclusivo. Para utilizarlo de forma responsable, lo primero es no tomarlo al pie de la letra y confiar en él de inmediato. Además, asegúrese de verificar lo que ve y luego no coloque su información personal en estos sistemas para saber qué tan poderoso es y también pregunte: “¿Cuántas fallas puede tener?”

¿Cómo se ha desempeñado ChatBlackGPT desde su lanzamiento en junio de este año?

Esto está muy bien hecho. Tenemos nuestra versión beta en la tienda Open AI personalizable y hemos pasado de 1000 usuarios a 5000 desde el lanzamiento. Tenemos una calificación de 4,6, lo que creo que es excelente por la falta de datos de privacidad personalizables en su interior. Nuestro programa independiente también está funcionando bien: tenemos alrededor de 2000 personas que tienen acceso a esta herramienta y actualmente la estamos desarrollando con información patentada, trabajando con historiadores y otros expertos para asegurarnos de que sea relevante para la sociedad actual que reflejamos correctamente. manera útil.

¿Cuáles son los beneficios de tener una experiencia de IA personalizada, o al menos una que sea más relevante para su cultura?

Cuando la gente aprende sobre una cultura, es realmente importante que no se distorsione ni se exprese en términos de pensamiento estrecho o de borrar las realidades de la verdadera historia de cualquier cultura. Es importante respetar que la historia sigue viva en cómo funcionan nuestros sistemas, cómo se trata a las personas en la sociedad y [shows] por qué las cosas son así. Cosas como la teoría crítica de la raza existen por una razón.

Entonces puedes imaginar que tener una IA que reconozca la situación actual en relación con la cultura y la historia es realmente importante. Muchos de los comentarios que recibo son que en el pasado la gente ha presionado la IA una y otra vez para obtener una respuesta que realmente coincida con lo que están buscando. Incluso si solo estuvieran produciendo contenido para audiencias diversas, la diversidad no significa solo LGBTQ y sordos. [people]o algo así. También significa que cuando intento crear un anuncio de este producto para el cabello, entiende las piezas y la forma de los rizos y todo eso. [information] La integración automática en la IA crea seguridad psicológica dentro de la tecnología.

¿En qué se diferencia ChatBlackGPT de otros productos de IA culturalmente sensibles o conscientes?

Primero, no hay muchos de ellos. Pero lo que nos diferencia es que no nos centramos únicamente en la historia que se cuenta. También estamos registrando la historia moderna y negra de hoy para no dejarla en manos de Dios, quien escribe el libro y reescribe la historia. Sin embargo, ahora buscamos reforzar la historia con nuestras voces para influir en las políticas, reducir el riesgo e influir en el declive de las personas negras y de color en la IA.

También queremos asegurarnos de que represente a la comunidad. [with a] diseño verdadero e inclusivo. No solo tenemos un grupo de personas trabajando en segundo plano que nunca conocerás y nunca verás a menos que estén robando. Pero realmente invitamos a las personas a contribuir y que puedan reflejarse en nuestro trabajo.

¿Por qué decidiste llamar a tu producto ChatBlackGPT?

Es como hablar con un grupo de personas negras, en lugar del típico GPT eurocéntrico que suele encontrarse. Está claro de qué se trata y nadie se confunde.

¿Cuándo surgió la idea de ChatBlackGPT y cómo ha evolucionado desde sus inicios?

La idea surgió después de que me despidieran; Quería controlar mi relación con la tecnología. Realmente no quería dejar que si tenía o no un trabajo en una gran empresa de tecnología determinara si era o no una mujer negra en tecnología. Así que reconstruí mi identidad estudiando la IA y rodeándome de algunas de las mejores personas expertas en ella.

Pero antes de eso Acabo de hacer mi investigación habitual y noté que aparecían muchos artículos sobre cómo borrar la historia negra de la IA. Luego me di cuenta de que la IA ha estado en muchos productos durante mucho tiempo y ha producido y creado mucho daño a la comunidad negra y eso fue muy triste para mí. Y luego, la tercera parte que me metió en esto fue que los negros se dieron cuenta de lo malo que era y lo malo que es. Entonces escribí un algoritmo realmente sólido que refleja y es capaz de generar respuestas en el contexto adecuado para nuestra comunidad.

¿Por qué pensaste que era importante centrarse en la comunidad negra y, más ampliamente, en las comunidades de color?

Porque soy un experto en la materia. Esta es la única experiencia de vida que puedo confirmar personalmente, y para probar el producto creo que se necesitan profesionales que se dediquen a este trabajo. Entonces, para mí, eso era en lo que estaba más seguro de que podría tener el mayor impacto. Nos estamos expandiendo a otras culturas y tratando de involucrar a diferentes comunidades y comités de consenso cultural para construir esta representación para tantas culturas como sea posible.

¿Cómo se entrena esta IA para ChatBlackGPT?

No puedes pretender representar a una comunidad con la que no hablas.

¿Tiene algún enlace de afiliado para ChatBlackGPT?

Estamos abiertos a cualquiera que quiera aprender más sobre por qué esto es importante. Por ejemplo, 11 Labs patrocina nuestro contenido de voz de IA. Soy profesor titular de IA en la Universidad de Washington y en Emerson.

¿Por qué es importante asociarse con una HBCU? ¿Y en qué consisten estas asociaciones?

Ahora tengo que hablar en una conferencia nacional de HBCU en la Casa Blanca. Y estamos buscando pasantes que, con suerte, nos patrocinarán y ayudarán a desarrollar este producto. Quiero que simplemente describan la experiencia y cómo pueden usarla en su currículum es interminable. Pueden usarlo para conseguir un trabajo o trabajar en IA. Pero [I want] dar a las personas la oportunidad de contribuir a algo que no pueden lograr fácilmente, pero ver los resultados de su contribución de inmediato.

¿Cuáles son algunos de los próximos pasos para ChatBlackGPT?

Continuamos con nuestro activismo personal donde podemos escuchar a la comunidad y asegurarnos de que nuestras voces sean escuchadas. Continuaremos demostrando y difundiendo el mensaje en varias conferencias, además de trabajar para asegurarnos de que el producto permanezca en manos de las personas que lo necesitan.

¿Hay algo más que te gustaría agregar?

¡La gente debería intentarlo! ChatBlackGPT beta está disponible en la tienda personalizada Open AI, solo busca GPT y luego nuestra herramienta ChatBlackGPT.ai. Entonces puedes usar ambos, pero lo importante es que está hecho para nosotros y por nosotros. Quiero que lo utilicen a su favor y lo disfruten.