La inteligencia artificial (IA) se ha convertido en un factor clave en la vida de las personas. Influye en quién obtiene un préstamo, cómo las empresas contratan y compensan a sus empleados, cómo se trata a los clientes e incluso en la asignación de infraestructura y ayuda. Ya está profundamente integrada en nuestros negocios, organizaciones y gobiernos, incluyendo los 40,000 compromisos con clientes de IBM Watson en 20 industrias y 80 países. A medida que el entorno depende cada vez más de la IA para tomar predicciones y decisiones importantes, se vuelve esencial que las personas puedan confiar en el proceso y los resultados de esa IA. IBM está trabajando en la construcción de esa confianza.
Cuatro creencias fundamentales en la IA
Para comprender la importancia de la ética en la inteligencia artificial, es necesario tener en cuenta las cuatro creencias fundamentales:
- Transparencia: Las organizaciones deben ser transparentes en cuanto a cómo se utilizan los datos y cómo se toman las decisiones con la IA.
- Explicabilidad: Es necesario poder explicar cómo se llega a los resultados y decisiones de la IA, especialmente cuando se trata de decisiones que afectan a las personas.
- Equidad: La IA debe ser imparcial y no discriminar a las personas en función de su raza, género u otras características protegidas.
- Privacidad: Los datos utilizados en la IA deben ser protegidos y utilizados de manera adecuada, respetando la privacidad de las personas.
Desde una perspectiva técnica, los datos y la tecnología de IA gobernados deben cumplir con los criterios de transparencia, explicabilidad, equidad, robustez y privacidad. Por ejemplo, si su departamento de recursos humanos utiliza una aplicación basada en aprendizaje automático para evaluar a los posibles empleados, ¿cómo puede asegurarse de que se implemente de manera confiable esta tecnología?
Para que su aplicación de contratación sea justa, debe contrarrestar los sesgos humanos y promover la inclusión y el trato equitativo. Pero eso no es suficiente. También debe estar preparado para proporcionar explicaciones a los gerentes de contratación. Su aplicación debe funcionar bien en condiciones excepcionales, resistir las amenazas y corregir los cambios. Y debe mantener los datos de los solicitantes privados y seguros para evitar un uso inapropiado.
La importancia de la confianza en la IA
Un obstáculo importante para la implementación generalizada de la IA es la falta de confianza. Según Morning Consult, el 77% de los profesionales de TI a nivel mundial afirman que es fundamental para su negocio poder confiar en que los resultados de la IA sean justos, seguros y confiables. La forma de ganar confianza es ganándola mediante la construcción de modelos e implementaciones de IA justos, robustos, explicables, transparentes y que preserven la privacidad. Aprovechar el liderazgo, la experiencia, las herramientas y los marcos de gobernanza de IBM es el mejor camino hacia una IA confiable en la que podamos construir nuestro futuro.
La adopción generalizada de la IA en una empresa se puede lograr mediante la creación de sistemas que brinden resultados comprensibles y confiables. Sin embargo, diseñar e implementar soluciones de IA confiables primero requiere una comprensión profunda de los problemas humanos que queremos resolver y de las necesidades empresariales. Tener en cuenta durante todo el ciclo de diseño de la solución a quién se está tratando de crear valor es crucial para ofrecer resultados confiables en los que los usuarios confíen. Esto se puede lograr utilizando un marco, como el Diseño Empresarial Centrado en Datos y IA, que ilumina cómo emplear datos e IA para construir soluciones responsables y confiables que brinden valor comercial y resuelvan problemas centrados en los humanos.
Áreas clave a considerar en la ética de la IA
Entonces, ¿cómo se puede comenzar a abordar la ética en la inteligencia artificial? Tomando como ejemplo el caso de la tecnología y las soluciones de IA que su empresa puede desarrollar para evaluar y contratar candidatos, existen cuatro áreas clave a considerar:
Evaluación, auditoría y mitigación de riesgos
¿Cómo sabe que los modelos de IA que su equipo de recursos humanos está utilizando para automatizar las prácticas de contratación son justos? ¿Está seguro de que los métodos utilizados por sus soluciones de IA de recursos humanos son lo suficientemente robustos como para resistir el escrutinio? ¿Puede asegurar que sus soluciones de IA pueden ser explicadas?
Para asegurarse de que sus soluciones de IA sean confiables, necesita orientación y herramientas que lo ayuden a evaluar, auditar y mitigar riesgos. IBM, reconocido como líder en IA confiable en un informe de Gartner de 2021, puede ayudarlo a establecer un marco de evaluación, auditoría y mitigación de riesgos, utilizando productos de IA de Watson para mitigar el riesgo. Esto le permite evaluar sus procesos comerciales actuales habilitados por IA, crear puntuaciones y recomendaciones para abordar la confiabilidad de sus soluciones de IA. IBM también puede ayudarlo a implementar monitoreo continuo y mitigación de sus procesos comerciales actuales habilitados por IA para garantizar que sus soluciones de IA sean confiables.
Ciclo de vida completo de la IA
¿Su organización está creciendo y su equipo de recursos humanos busca agregar automatización para escalar sus prácticas de contratación? ¿Está buscando agregar soluciones de IA para aumentar la capacidad de su equipo de recursos humanos para revisar currículums aprovechando soluciones de IA para automatizar su proceso altamente manual? ¿Cómo puede asegurarse de que lo que construya sea confiable?
A medida que avanzan hacia la IA, la mayoría de las organizaciones establecen equipos de ciencia de datos con personal capacitado en algoritmos, marcos y técnicas de aprendizaje automático y aprendizaje profundo. Sin embargo, muchas de estas organizaciones luchan por hacer que sus proyectos de IA sean realmente relevantes para el negocio y no logran llevar los proyectos a producción completa e integrarlos con las aplicaciones y procesos existentes. Es por eso que muchos interesados en las líneas de negocio consideran que solo un pequeño porcentaje de los proyectos de IA son verdaderos éxitos.
IBM Watson ofrece un punto de vista integral y un conjunto integrado de productos y servicios para gestionar el ciclo de vida completo de la IA. Nuestra orientación y herramientas pueden ayudarlo con la planificación, construcción, implementación y gestión de nuevas soluciones de IA, asegurándose de que sean confiables desde el principio y que sigan siéndolo.
Marcos de gobernanza de IA
A medida que su organización comienza a implementar soluciones de IA para automatizar la evaluación de candidatos, ¿cómo puede asegurarse de que sus desarrolladores y científicos de datos estén garantizando que esas soluciones sean justas, transparentes, respeten la privacidad, sean explicables y robustas?
Al establecer marcos de gobernanza de IA para gobernar el ciclo de vida de los datos y los modelos, puede establecer límites para mantener sus prácticas de contratación, continuando con el ejemplo de caso de uso, libres de sesgos y reducir el riesgo de demandas y mala reputación. IBM puede ayudarlo a implementar un marco de gobernanza de IA con procedimientos de gestión de datos y modelos, estándares y regulaciones internas, independientemente del tamaño de su organización. Al tener un marco de gobernanza de IA en su lugar, hay transparencia en cuanto a si las pautas éticas de IA de su organización se están siguiendo, ya que se puede tener gobernanza sin ética, pero no se puede ofrecer ética sin gobernanza.
Orientación y educación
¿Está seguro de que sus científicos de datos y desarrolladores tienen los conocimientos necesarios? ¿Pueden garantizar que las soluciones de IA de recursos humanos que construyen eliminen los sesgos y promuevan la inclusión y el trato equitativo?
La inteligencia artificial es una tecnología de vanguardia que requiere una profunda experiencia. Construir soluciones de IA con poco conocimiento puede poner en peligro su línea de fondo y su reputación. Su organización necesita conocer las mejores prácticas para construir soluciones de IA confiables y debe proporcionar educación a sus científicos de datos, desarrolladores y tomadores de decisiones. En IBM, hemos encapsulado nuestra profunda experiencia en IA en cursos y certificaciones, con un fuerte enfoque en los principios de la IA confiable. Puede compartir estos recursos con sus empleados, dentro de las soluciones mencionadas anteriormente o como cursos y certificaciones independientes.
Además de la experiencia y orientación específicas de la industria incorporadas en cada compromiso mencionado anteriormente, IBM ha desarrollado el Diseño Empresarial Centrado en Datos y AI o Diseño de IA Centrado en el Ser Humano. Con EDT para Datos y AI, IBM puede guiarlo para diseñar adecuadamente sistemas de IA como equipo desde el principio. También podemos guiar a sus equipos con un enfoque claro y centrado en la agencia humana, no en herramientas y tecnología por el bien de las herramientas y la tecnología, y mostrarle cómo aplicar el enfoque estándar de IBM para diseñar soluciones de IA.
La estrategia de IBM de IA confiable para los negocios es un enfoque holístico que lo ayuda a gobernar sus soluciones de IA y gestionar su ciclo de vida completo de IA. Con la experiencia y la innovación de IBM Research, los fundamentos tecnológicos de Data y AI y IBM Storage, la experiencia de Expert Labs, la experiencia de la industria de IBM Services y el Diseño Empresarial Centrado en Datos y AI, IBM puede ayudarlo a desarrollar una IA confiable: justa, robusta, explicable, transparente y que preserva la privacidad.
Impulse la transformación empresarial con una IA confiable.
Si quieres conocer otras notas parecidas a Ética en la ia: construyendo confianza puedes visitar la categoría Inteligencia.