Warsztat: Building Human–AI–Robot Cooperation
2025-11-20
Krajobraz zaufania w interakcji człowiek–robot: roboty przemysłowe a roboty społeczne oraz kształtowanie się zaufania zależnego od kontekstu
Koncepcja tego by porównać ze sobą odmienne środowiska działania robotów, w kontekście poziomu zaufania, zrodziła się u mnie, dzięki realizacji badań w takich właśnie odmiennych środowiskach. Można z dużą dozą prawdopodobieństwa założyć, że w pracy z maszynami ludzie będą budować zaufanie na podstawie efektywności pracy robota. Tak z resztą wskazuje obszerna literatura na ten temat. Efektywność, awaryjność, liczba popełnianych błędów, poczucie bezpieczeństwa. Choć I tutaj może pojawić się osobnicze, indywidualne rozróżnienie. Jedni z nas lubią prace wykonaną zawsze bezbłędnie, inni dają sobie większy margines, pozwalają na mniejsze lub większe niedociągnięcia. Czy te same miary przykładamy do robotów?
Sytuacja robi się bardziej skomplikowana w usługach, szczególnie w usługach opiekuńczych lub szerzej społecznych. Podczas dotychczas zrealizowanych badań, w pięciu domach pomocy społecznej w Polsce, w trakcie wywiadów pogłębionych oraz przeprowadzania kwestionariuszy, pojawia się kwestia zaufania do robotów. Interesujące jest np. pytanie: czy w trudnej sytuacji życiowej osoba wolałaby polegać na człowieku czy robocie, zdecydowana większość ankietowanych odpowiadała, że na człowieku. Choć zdarzali się respondenci, którzy wybierali drugą odpowiedź: poleganie na robocie. Niekiedy tłumacząc swoją decyzję, faktem, że w życiu wielokrotnie zawiedli się na ludziach.
Dlaczego o tym wspominam, bo to pokazuje, że zaufanie do technologii: robotów/AI nie jest jednowymiarowym aspektem opartym tyko na wydajności lub na rozumieniu zasad działania technologii lub na zapewnieniu fizycznego bezpieczeństwa pracy z maszynami. Zaufanie to konstrukt dużo bardziej skomplikowany, ludzki. Jeśli więc „uczłowieczamy” technologię musimy te aspekty wziąć pod uwagę.
Plan na projekt do zrealizowania w Austrii zakłada wykorzystanie moich dotychczasowych badań empirycznych, zrealizowanych:
- W ramach doktoratu w czterech organizacjach (dwóch w Polsce, jednej w Wielkiej Brytanii i jednej w Australii). Te badania obejmowały analizę behawioralną interakcji człowiek–robot z wykorzystaniem metody studium przypadku oraz pogłębione wywiady z pracownikami i kadrą zarządzającą. Wyniki wskazują, że skuteczne wdrożenie współpracy ludzi z robotami wymaga uwzględnienia aspektów psychospołecznych, takich jak postrzeganie robotów jako członków zespołu oraz podział odpowiedzialności między ludźmi a maszynami. Na podstawie wyników badań opracowano Model Zarządzania Zespołami Człowiek–Robot (MZZL-R). Model ten wskazuje kluczowe obszary zarządzania zespołami mieszanymi, takie jak czynniki sytuacyjne, czynniki funkcjonalne (bezpieczeństwo, awaryjność), aspekty relacyjne (zaufanie, interakcja) oraz czynniki psychospołeczne (antropomorfizacja robotów, akceptacja technologii). Zrozumienie zaufania prezentowane przez pracowników i kadrę zarządzającą w badanych firmach koncentrowało się w dużej mierze na zaufaniu do bezpieczeństwa pracy oraz zaufaniu do efektywności działania.
- Badań realizowanych w drugim obszarze moich prac badawczych czyli w ramach projektu finansowanego przez Narodowe Centrum Nauki: „Zaufanie technologiczne w interakcji i współpracy ludzi z robotami w domach opieki długoterminowej w Polsce”. Celem projektu jest zbadanie, w jaki sposób wdrożenie robotów usługowych może wesprzeć pracę personelu domów opieki oraz jak maszyny te będą postrzegane przez mieszkańców tych placówek. Głównym kryterium oceny jest poziom zaufania ludzi do robotów. Chcę zbadań jakie czynniki determinują zaufanie do robotów wśród pracowników domów opieki; jak postrzegają oni współpracę z robotami w ramach swoich zadań zawodowych; jak mieszkańcy domów opieki postrzegają usługi opiekuńcze świadczone przez roboty i co decyduje o ich ocenie tych usług; oraz jaki jest wzajemny wpływ zaufania pracowników do robotów i zaufania mieszkańców do robotów. Jestem w połowie realizacji badań, wykonałam je już w pięciu z 10 zpalanowanych domów pomocy społecznej w Polsce.
Podczas pobytu w Wiedniu chciałbym porównać te dwa środowiska i zbadać, w jakim stopniu kształtują one poziom zaufania do robotów. Celem badań prowadzonych w IWM jest opracowanie wstępnego interdyscyplinarnego modelu zaufania kontekstowego w interakcji człowiek–robot (Contextual Trust in Human–Robot Interaction Model – CT-HRI) poprzez:
- analizę i porównanie zaufania w dwóch różnych ekosystemach interakcji człowiek–robot (HRI): roboty przemysłowe i współpracujące (produkcja/logistyka), roboty usługowe i społeczne (opieka długoterminowa, domy opieki).
- opracowanie rekomendacji dotyczących projektowania i wdrażania robotów, zgodnych z paradygmatem podkreślającym prymat godności ludzkiej, wartości społecznych oraz jakości pracy i usług.
Proponowane zadania badawcze:
1. Analiza i synteza istniejących badań nad zaufaniem w interakcji człowiek–robot (HRI)
- identyfikacja kluczowych czynników zaufania w środowiskach produkcyjnych
- identyfikacja czynników zaufania w usługach społecznych i domach opieki długoterminowej
- analiza różnic i podobieństw; identyfikacja luk teoretycznych
2. Badania terenowe w Austrii – roboty w środowisku pracy (firmy przemysłowe i logistyczne)
- przeprowadzenie wywiadów z przedstawicielami austriackiej firmy, w której wdrożono roboty
- analiza praktyk wdrożeniowych w przedsiębiorstwach
- identyfikacja czynników zaufania w kontekście austriackiego rynku pracy
3. Badania terenowe w austriackich placówkach opieki społecznej (roboty usługowe i społeczne)
- przeprowadzenie wywiadów z przedstawicielami placówek, personelem opiekuńczym oraz – o ile to możliwe – użytkownikami robotów społecznych
- analiza różnic w postrzeganiu robotów jako „narzędzia” w porównaniu z „elementem relacji opiekuńczej”
- porównanie praktyk wdrożeniowych w Polsce i Austrii
4. Porównanie case study i opracowanie modelu CT-HRI
- synteza danych z Polski, Wielkiej Brytanii, Australii i Austrii
- analiza różnic funkcjonalnych, psychospołecznych i etycznych w procesie budowania zaufania
- propozycja modelu „krajobrazów zaufania” (trust landscapes)
5. Opracowanie rekomendacji zgodnych z filozofią humanizmu cyfrowego (Digital Humanism)
- rekomendacje dla firm i instytucji publicznych dotyczące sposobów wdrażania robotów w zależności od kontekstu
- dyskusja na temat granic robotyzacji: gdzie roboty mogą i powinny wspierać ludzi, a gdzie ich wykorzystanie zagraża wartościom związanym z pracą i relacjami międzyludzkimi
- interpretacja wyników w świetle etosu pracy, godności oraz społecznego znaczenia pracy
Trust Landscapes in Human–Robot Interaction: Industrial vs. Social Robots and the Emergence of Context-Dependent Trust
The idea of comparing different robot operating environments in terms of trust levels emerged from the research I conducted in precisely such diverse settings. It is highly probable that when working with machines, people build trust based on the robot's performance efficiency—a view supported by extensive literature on the subject. Factors include efficiency, failure rates, error frequency, and the sense of safety. However, individual differences come into play here as well. Some of us prefer work to be flawless, while others allow for a wider margin of error, tolerating minor or even significant shortcomings. Do we apply these same standards to robots?
The situation becomes more complex in the service sector, particularly in caregiving or broader social services. Research conducted across five social welfare homes in Poland—involving both in-depth interviews and questionnaires—has highlighted the issue of trust in robots. One interesting question asked whether, in a difficult life situation, a person would prefer to rely on a human or a robot; the vast majority of respondents chose the human. Yet, there were some who opted for the robot, sometimes explaining their choice by citing past instances where they had been let down by people. I mention this because it demonstrates that trust in technology—whether robots or AI—is not a one-dimensional concept based solely on performance, an understanding of how the technology works, or the assurance of physical safety during human-machine interaction. Trust is a far more complex, deeply human construct. Therefore, if we are to "humanize" technology, we must take these aspects into account.
The plan for the project to be carried out in Austria involves utilizing my existing empirical research, conducted:
- As part of my doctoral studies across four organizations (two in Poland, one in the UK, and one in Australia). This research involved a behavioral analysis of human-robot interaction using the case study method, alongside in-depth interviews with employees and management. The results indicate that the successful implementation of human-robot collaboration requires addressing psychosocial aspects, such as the perception of robots as team members and the division of responsibility between humans and machines. Based on these findings, a Human-Robot Team Management Model (MZZL-R) was developed. This model identifies key areas for managing mixed teams, including situational factors, functional factors (safety, failure rates), relational aspects (trust, interaction), and psychosocial factors (robot anthropomorphization, technology acceptance). The understanding of trust expressed by employees and management in the studied companies focused largely on trust regarding workplace safety and operational efficiency.
- Research conducted in the second area of my work—specifically, a project funded by the National Science Centre titled "Technological trust in human-robot interaction and collaboration in long-term care facilities in Poland." The project aims to investigate how the implementation of service robots can support the work of care facility staff and how these machines will be perceived by the facilities' residents. The primary evaluation criterion is the level of human trust in the robots. I aim to investigate the factors that determine trust in robots among nursing home staff; how they perceive working with robots in the context of their professional duties; how nursing home residents perceive care services provided by robots and what shapes their assessment of these services; and the interplay between staff trust in robots and resident trust in robots. I am halfway through the research, having already conducted the study in five of the ten planned social welfare homes in Poland.
During my stay in Vienna, I intend to compare these two environments and examine the extent to which they shape levels of trust in robots. The research conducted at the IWM aims to develop a preliminary interdisciplinary model of contextual trust in human–robot interaction (CT-HRI) by:
- analyzing and comparing trust across two distinct human–robot interaction (HRI) ecosystems: industrial and collaborative robots (manufacturing/logistics),service and social robots (long-term care, care homes).
- formulating recommendations for robot design and implementation that align with a paradigm prioritizing human dignity, social values, and the quality of work and services.
Proposed research tasks:
1. Analysis and synthesis of existing research on trust in human–robot interaction (HRI)
- identification of key trust factors in manufacturing environments
- identification of trust factors in social services and long-term care homes
- analysis of differences and similarities; identification of theoretical gaps
2. Field research in Austria – robots in the work environment (industrial and logistics companies)
- conducting interviews with representatives of an Austrian company where robots have been implemented
- analysis of implementation practices within enterprises
- identification of trust factors within the context of the Austrian labor market
3. Field research in Austrian social care facilities (service and social robots)
- conducting interviews with facility representatives, care staff, and—where possible—users of social robots
- analysis of differences in perceiving robots as a "tool" versus an "element of the care relationship"
- comparison of implementation practices in Poland and Austria
4. Cross-case comparison and development of the CT-HRI model
- synthesis of data from Poland, the UK, Australia, and Austria
- analysis of functional, psychosocial, and ethical differences in the trust-building process
- proposal of a "trust landscapes" model
5. Development of recommendations aligned with the philosophy of Digital Humanism
- recommendations for companies and public institutions regarding context-dependent robot implementation methods
- discussion on the limits of robotization: where robots can and should support humans, and where their use threatens values associated with work and interpersonal relationships
- interpretation of results in light of the work ethic, dignity, and the social significance of work
Zdjęcie autorstwa Jędrzej Koralewski z Pexels