To see the ‘Sheet paper‘ and ‘Table of associated records‘ go the bottom, Pag. 2Pag. 3. ( 👩‍🎓 🖥 For online version, on the image).

https://estadosia.files.wordpress.com/2020/02/designers-need-to-prevent-the-failures-from-excessive-automation-and-excessive-human-control.png

A review of the paper for research, educational and recommendations. 1.- Paper language: English.
2.- Language of the secondary text: Spanish.


https://estadosia.files.wordpress.com/2020/02/recommended-information-3.jpg

Recommendation numbered, Nº: 06062020p1


🔘 Paper page: [https://arxiv.org/abs/2002.04087v1] ⚠ [latest version 23 Feb 2020 (v2)]


Autor

https://estadosia.files.wordpress.com/2020/03/ben-shneiderman-e1584188450759.jpg

Shneiderman, Ben

Profesor de Informática, UMIACS. Director fundador de Human Computer Interaction Lab (1983-2000). Profesor afiliado en el Institute for Systems Research. Profesor afiliado en College of Information Studies – Maryland’s iSchool. (Fuente: cs.umd.edu/~ben)


El objetivo de este documento es alentar a los investigadores de inteligencia artificial y diseñadores de productos a cambiar del pensamiento unidimensional sobre los niveles de automatización / autonomía a un nuevo marco HCAI bidimensional.


Abstracto

Las tecnologías bien diseñadas que ofrecen altos niveles de control humano y altos niveles de automatización de la computadora pueden aumentar el rendimiento humano, lo que lleva a una adopción más amplia. El marco de Inteligencia Artificial Centrada en el Hombre (HCAI) aclara cómo (1) diseñar para altos niveles de control humano y altos niveles de automatización de la computadora para aumentar el rendimiento humano, (2) comprender las situaciones en las que el control humano completo o la computadora completa el control es necesario y (3) evitar los peligros del control humano excesivo o el control excesivo de la computadora. El nuevo objetivo de HCAI es más probable que produzca diseños que sean confiables, confiables y seguros (TRS). El logro de estos objetivos aumentará drásticamente el rendimiento humano, al tiempo que respaldará la autoeficacia humana, el dominio, la creatividad y la responsabilidad.


Resumen, limitaciones y conclusiones

El marco HCAI separa la cuestión del control humano de la automatización de la computadora, dejando en claro que un buen diseño puede lograr altos niveles de control humano y altos niveles de automatización. Las decisiones de diseño brindan a los operadores humanos una comprensión clara del estado de la máquina y sus elecciones, guiados por preocupaciones como las consecuencias y la reversibilidad de los errores.
La automatización bien diseñada conserva el control humano cuando corresponde, lo que aumenta el rendimiento y permite mejoras creativas.
El marco HCAI sugiere cuándo es necesario el control por computadora para una acción automatizada rápida, cuando el deseo humano de dominio es primordial y cuando existen peligros de automatización excesiva o control humano excesivo. Aclara las opciones de diseño para (1) aplicaciones profesionales y de consumo, como sistemas de recomendación ampliamente utilizados, herramientas publicitarias, plataformas de redes sociales y motores de búsqueda, que han traído grandes beneficios a los consumidores, (2) aplicaciones consecuentes en medicina, legal, sistemas ambientales o financieros que pueden traer beneficios y daños sustanciales, y (3) aplicaciones vitales como automóviles, aviones, trenes, sistemas militares, marcapasos o unidades de cuidados intensivos.
El marco HCAI se basa en la creencia de que las personas son diferentes de las computadoras. Por lo tanto, los diseños que aprovechan las características únicas de la computadora que incluyen algoritmos sofisticados, sensores avanzados, pantallas con abundante información y efectores potentes tienen más probabilidades de aumentar el rendimiento. Del mismo modo, los diseños y las estructuras organizativas que reconocen las capacidades únicas de los humanos tendrán ventajas tales como fomentar el uso innovador, apoyar la mejora continua y promover avances para diseños ampliamente mejorados.

Una dirección de investigación importante es desarrollar medidas objetivas de los niveles de control y autonomía, vinculadas a diversas tareas. Dichas medidas estimularían discusiones de diseño más significativas, lo que conduciría a mejores directrices, evaluaciones y teorías.

La responsabilidad humana por los errores es otro poderoso impulsor de los avances de diseño, como la inclusión de pistas de auditoría detalladas y comentarios informativos consistentes sobre el estado de la máquina. Luego, el reciclaje de los usuarios y el rediseño de los sistemas se realiza rápidamente. Quedan preguntas difíciles, como lidiar con los efectos de descalificación que socavan las habilidades humanas que pueden ser necesarias cuando falla la automatización, y la dificultad de permanecer alerta cuando las acciones del usuario se vuelven menos frecuentes.
Las preguntas éticas, como las consideraciones de responsabilidad, equidad y explicabilidad, son útiles para desarrollar principios generales. Cuando estos principios generales se combinan con un profundo conocimiento y experiencia con las complejidades del diseño de productos y servicios, pueden producir pautas accionables (IEEE, 2019). El marco HCAI sienta las bases para la responsabilidad, la equidad y la explicabilidad, pero las pautas accionables para lograr estos objetivos están más allá de este documento.
Se confiará en un sistema TRS centrado en el ser humano (1) debido a estructuras sociales apropiadas, (2) confiable debido a prácticas técnicas sólidas y (3) seguro debido a estrategias de gestión abiertas que construyen culturas de seguridad. Los sistemas TRS evolucionarán rápidamente porque los mecanismos para monitorear fallas y fallas cercanas apoyan mejoras creativas.

El marco HCAI guía a los investigadores y diseñadores en el diseño de tecnologías para brindar a los usuarios un control adecuado, al tiempo que proporciona altos niveles de automatización. Cuando tienen éxito, estas tecnologías amplifican, aumentan, mejoran y empoderan a los usuarios, dándoles un aumento dramático en su rendimiento.

Biography

arXiv:2002.04087v1 [cs.HC] for this version


Please, thank the authors and Publisher

Thank you very much for this work to @benbendc and @arxiv , via @States_AI_IA #ethics #openscience #openaccess #ai #artificialintelligence #ia #thebibleai #paper