A medida que las empresas estadounidenses recurren a la IA, los consumidores rechazan préstamos y empleos CINEINFO12

Una MilkhaFebruary 12, 2024


Nueva York – Rachel S vive en un intramuros transitable de Brooklyn, Nueva York. La mayoría de los días puede estar cómodamente sin coche. A menudo trabaja de forma remota, pero ocasionalmente necesita ir a la oficina. Ahí es donde su situación se vuelve un poco desafiante. Su espacio de trabajo no es fácilmente accesible en transporte notorio.

Como no necesita conducir con frecuencia, solicitó la plataforma de coches compartidos Zipcar para satisfacer sus deyección ocasionales. El proceso de solicitud es harto rápido, lo que permite a los consumidores salir a la carretera utilizando su flota de automóviles con relativa ligereza.

Desafortunadamente, ese no fue el caso de Rachel. Tan pronto como presionó el pitón de remitir, el software de inteligencia industrial que utiliza la empresa la consideró no elegible. Desconcertada por el resultado, Rachel se puso en contacto con el equipo de atención al cliente de la empresa.

Posteriormente de todo, no tiene deméritos que sugieran que es una conductora valeverguista. No tiene puntos en su atrevimiento. El único fracaso fue una multa de tráfico que recibió cuando tenía diecisiete primaveras y que la multa fue pagada hace primaveras.

Aunque la multa de tráfico ya ha sido rectificada, ahora, a sus treinta primaveras, todavía está lidiando con las consecuencias.

Habló con el equipo de atención al cliente de Zipcar sin éxito. A pesar de tener un historial de conducción libre, fue rechazada. Afirma que la empresa dijo que no tenía ningún expediente y que un humano no podía sobrescribir la valentía.

“No había ningún camino o proceso para apelar a un ser humano y, si admisiblemente es bastante, la única forma de retornar a intentarlo sería retornar a presentar una solicitud”, para lo cual hay una tarifa de solicitud no reembolsable, dijo Rachel a Al Jazeera recordando su conversación con la empresa.

Zipcar no respondió a la solicitud de comentarios de Al Jazeera.

Rachel es uno de los muchos consumidores a quienes los sistemas de IA rechazaron préstamos, membresías e incluso oportunidades laborales sin ningún expediente o política de apelación, ya que las empresas continúan dependiendo de la IA para tomar decisiones esencia que impactan la vida cotidiana.

Eso incluye a D, que recientemente perdió su trabajo.

Como condición de la entrevista, D solicitó que solo usáramos su original por respeto a su privacidad. D buscó religiosamente una nueva oportunidad sin éxito.

Posteriormente de meses de averiguar, D finalmente consiguió un trabajo, pero había un gran problema: el momento.

Todavía faltaban varias semanas para que D comenzara el nuevo trabajo y varias semanas luego de que D recibiera el primer cheque de cuota.

Para obtener ayuda adicional, D solicitó un préstamo personal en múltiples plataformas en un esfuerzo por eludir los préstamos de día de cuota abusivos, solo para salir delante mientras tanto.

D fue rechazado en todos los préstamos que solicitaron. Aunque D no confirmó qué empresas específicas, el sector tiene múltiples opciones, incluidas Upstart, Upgrade, SoFi, Best Egg y Happy Money, entre otras.

D dice que cuando llamaron a las empresas luego de remitir una solicitud en camino, nadie pudo ayudar ni hubo apelaciones.

Cuando D tenía poco más de vigésimo primaveras, tenía una polímero de crédito con la que no podía acreditar las facturas. Esa era su única polímero de crédito. Asimismo alquilan un habitáculo y dependen del transporte notorio.

Según los prestamistas en camino impulsados ​​por la IA, su yerro de historial crediticio y de garantías los hace no elegibles para un préstamo a pesar de acontecer pagado su deuda irresoluto hace seis primaveras.

D no confirmó a qué empresas específicas intentaron obtener un préstamo. Al Jazeera se acercó a cada una de esas empresas para comentar sobre sus procesos; solo dos respondieron, Upgrade y Upstart, al momento de la publicación.

“Hay casos en los que podemos cambiar la valentía sobre el préstamo basándonos en información adicional, es sostener, prueba de otras fuentes de ingresos, que no se proporcionó en la solicitud diferente, pero cuando se comercio de una 'valentía humana', “Hay mucho espacio para prejuicios personales, poco que los reguladores y los líderes de la industria han trabajado arduamente para eliminar”, dijo un portavoz de la compañía Upgrade en un correo electrónico a Al Jazeera. “La tecnología ha aportado objetividad y equidad al proceso de préstamo, y ahora las decisiones se toman en función del efectivo mérito del solicitante”.

Sesgos históricos amplificados

Pero no es tan simple como eso. Los sesgos históricos existentes a menudo se ven amplificados con la tecnología moderna. Según una investigación de 2021 realizada por el medio The Markup, los estadounidenses negros tienen un 80 por ciento más de probabilidades de ser rechazados automáticamente por las agencias que otorgan préstamos que sus homólogos blancos.

“La IA es sólo un maniquí que se entrena con datos históricos”, dijo Naeem Siddiqi, asesor principal de SAS, una empresa mundial de datos e inteligencia industrial, donde asesora a los bancos sobre el aventura crediticio.

Esto se debe a la larga historia de prácticas discriminatorias en la banca alrededor de las comunidades de color en Estados Unidos.

“Si se toman datos sesgados, lo único que hará la IA o cualquier maniquí es esencialmente repetir lo que le dio”, dijo Siddiqui.

“El sistema está diseñado para tomar tantas decisiones como sea posible con el beocio sesgo y causa humano posible para que sea una valentía objetiva. Ésta es la ironía de la situación… por supuesto, hay algunos que se quedan en el olvido”, añadió Siddiqi.

No se comercio sólo de una cuestión de raza. Empresas como Apple y Goldman Sachs incluso han sido acusadas de conceder sistemáticamente límites de crédito más bajos a las mujeres que a los hombres.

Estas preocupaciones además son generacionales. Siddiqi dice que tales negaciones además limitan abrumadoramente la movilidad social entre las generaciones más jóvenes, como los jóvenes millennials (los nacidos entre 1981 y 1996) y la Coexistentes Z (los nacidos entre 1997 y 2012), en todos los grupos demográficos.

Esto se debe a que el apodo en serie de buena lozanía financiera –incluyendo tarjetas de crédito, casas y automóviles– cuando se evalúa la responsabilidad financiera de algún es cada vez menos relevante. Sólo aproximadamente la porción de la Coexistentes Z tiene tarjetas de crédito. Esa es una disminución con respecto a todas las generaciones anteriores.

Asimismo es menos probable que los miembros de la Coexistentes Z tengan garantías, como un automóvil, para situar al solicitar un préstamo. Según un estudio nuevo de McKinsey, este agrupación de etapa tiene menos probabilidades de optar por obtener una atrevimiento de conducir que las generaciones anteriores. Sólo una cuarta parte de los jóvenes de 16 primaveras y el 45 por ciento de los de 17 primaveras tienen permiso de conducir. Eso es un 18 por ciento y un 17 por ciento menos, respectivamente.

La Oficina de Protección Financiera del Consumidor ha intensificado sus salvaguardias para los consumidores. En septiembre, la agencia anunció que las agencias de crédito ahora tendrán que explicar el motivo detrás de la denegación de un préstamo.

“Los acreedores a menudo alimentan estos complejos algoritmos con grandes conjuntos de datos, que a veces incluyen datos que pueden extraerse de la vigilancia de los consumidores. Como resultado, a un consumidor se le puede desmentir crédito por razones que tal vez no considere particularmente relevantes para sus finanzas”, dijo la agencia en un comunicado.

Sin secuestro, la agencia no aborda la yerro de un proceso de apelación humana, ya que D afirma haberlo tratado personalmente.

D dijo que tuvieron que posponer el cuota de algunas facturas que dañarán su lozanía financiera a espléndido plazo y podrían afectar su capacidad para obtener un préstamo con tasas de interés razonables, en todo caso, en el futuro.

'Excluidos de las oportunidades'

Siddiqi sugiere que los prestamistas deberían comenzar a considerar datos alternativos al tomar una valentía sobre préstamos, que pueden incluir pagos de inquilinato y servicios públicos e incluso el comportamiento en las redes sociales, así como los patrones de compra.

En las redes sociales, los registros de extranjeros son un indicador esencia.

“Si tienes más moneda, tiendes a delirar más o si sigues páginas como Bloomberg, Financial Times y Reuters es más probable que seas financieramente responsable”, añade Siddiqi.

El problema del rechazo instintivo no es sólo un problema para las solicitudes de préstamos y membresías, sino además de las oportunidades laborales. En plataformas de redes sociales como Reddit, los usuarios publican correos electrónicos de rechazo que reciben inmediatamente luego de remitir una solicitud.

“Cumplí con todos los requisitos y acerté todas las palabras esencia y un minuto luego de remitir mi solicitud, recibí tanto el gratitud de la solicitud como la carta de rechazo”, dijo a Al Jazeera Matthew Mullen, el cartel diferente.

El editor de vídeo con sede en Connecticut dice que esta fue la primera vez para él. Expertos como Lakia Elam, directora de la consultora de Medios Humanos Magnificent Differences Consulting, afirma que entre los sistemas de seguimiento de candidatos y otras herramientas impulsadas por la IA, esto se está convirtiendo en un tema cada vez más importante y cada vez más problemático.

Los sistemas de seguimiento de candidatos a menudo pasan por suspensión habilidades transferibles que no siempre se alinean en el papel con el conjunto de habilidades de un candidato.

“A menudo, los solicitantes que tienen una trayectoria profesional no listado, muchos de los cuales provienen de diversos orígenes, quedan excluidos de las oportunidades”, dijo Elam a Al Jazeera.

“Sigo diciéndoles a las organizaciones que debemos perdurar el toque humano en este proceso”, dijo Elam.

Pero cada vez más organizaciones dependen más de programas como ATS y ChatGPT. Elam sostiene que eso deja fuera a muchos solicitantes de empleo que valen la pena, incluida ella misma.

“Si tuviera que sobrevenir por un sistema de inteligencia industrial hoy, te garantizo que sería rechazado”, dijo Elam.

Tiene un GED (el equivalente al diploma de escuela secundaria) en circunscripción de un título de cuatro primaveras.

“Ven GED en mi currículum y dicen que debemos mantenernos alejados de esto”, agregó Elam.

En parte, esa es la razón por la que los estadounidenses no quieren que la IA participe en el proceso de contratación. Según un crónica de abril de 2023 de Pew Research, el 41 por ciento de los estadounidenses cree que la IA no debería utilizarse para revisar solicitudes de empleo.

“Es parte de una conversación más amplia sobre perder el camino alrededor de el oportuno proceso”, dijo Rachel.



Source link

Categories

Leave a comment

Name *
Add a display name
Email *
Your email address will not be published