Stress-testing a moral execution guard beyond direct language (QERRA-v2 Classical)
요약
QERRA-v2 Classical은 로봇 행동 트리(Behavior Tree)에서 액션이 실행되기 전에 텍스트 지시어를 사전 검열하는 실행 가드 시스템이다. PAL Robotics의 TIAGo 로봇을 대상으로 Webots 시뮬레이션 환경에서 평가가 진행되었다. 노골적인 윤리 위반뿐 아니라, '보호적 돌봄'이나 '행정 절차 준수'처럼 제도적 용어로 포장된 강압적 지시를 탐지하는 데 초점을 맞춘다. 설계 원칙으로 두 가지 경계를 설정하였는데, 불완전한 인간의 언어 습관에 과잉 반응하는 '편집증적 로봇' 함정 회피와 인식론적 겸손이 그것이다.
큐레이터 노트
원문에 없는 맥락입니다
본문이 중간에 잘려 있어 전체 실험 설계·평가 결과를 확인할 수 없다. 현재 공개된 내용은 Webots 시뮬레이션 조건에 한정되므로, 실제 환경에서의 탐지 성능은 별도 검증이 필요하다.
이 글은 원문을 요약한 큐레이션입니다. 수치·스펙은 원문 표기를 유지했습니다. 로봇 발표는 제조사·연구실 보도자료가 많으므로 검증된 결과와 구분해 읽으세요.