한국재난안전뉴스 이계홍 기자 |
AI와 로봇이 산업현장에 빠르게 들어오면서 가장 어려운 질문이 등장했다.
“공장에서 사고가 났을 때 책임은 누구에게 있는가.”
과거에는 비교적 분명했다. 대체로 원인을 추적할 수 있었다. 작업자가 안전수칙을 지키지 않았거나, 관리자가 안전조치를 하지 않았거나, 기계의 결함이 있었던 경우다. 사고가 발생하면 작업일지와 CCTV, 장비 상태 등을 확인해 과실의 원인을 찾을 수 있었다.
하지만 AI와 자율형 로봇이 등장하면서 상황은 달라졌다. AI는 수많은 데이터를 분석해 스스로 판단한다. 자율주행 로봇은 주변 환경을 인식하고 이동 경로를 결정한다. 사람의 직접적인 명령 없이도 상황에 따라 행동이 바뀐다.
문제는 사고가 발생했을 때다. AI가 왜 그런 판단을 했는지 정확히 설명하기 어려운 경우가 생긴 것이다. 사람이 프로그램을 만들었지만 AI가 수많은 데이터를 학습해 새로운 판단을 할 경우, 사고 원인을 단순히 한 사람의 실수로 설명하기가 어려워진다.
로봇 사고의 책임을 둘러싼 가장 큰 쟁점은 제조사와 사용자 사이의 책임 문제다. 제조사가 안전하지 않은 로봇을 만들었다면 제조물 결함의 문제가 발생한다. 반대로 사용자가 안전장치를 임의로 해제하거나 정비 절차를 지키지 않았다면 운영자의 책임이 커질 수 있다.
현장에서는 실제로 여러 요인이 동시에 작용하는 경우가 많다. 로봇 사고는 기계 자체가 고장 나서 발생하는 경우보다, 설치 환경과 작업 방식이 바뀌었는데 기존 안전설정을 그대로 사용하는 과정에서 발생하는 경우도 많다.
예를 들어 로봇 주변에 새로운 설비가 설치되거나 작업자의 이동 동선이 바뀌면 기존에 설정된 센서와 안전거리가 제대로 작동하지 않을 수 있다.
그러나 생산을 멈추기 어렵다는 이유로 안전설정을 변경하지 않거나, 작업자가 편의를 위해 안전장치를 해제하는 경우도 있다.
결국 사고 원인은 로봇 하나가 아니라 설계·설치·운영·관리의 전체 과정에 걸쳐 있을 수 있는 것이다.
현재의 법체계는 대부분 인간의 행위와 과실을 중심으로 만들어져 있다. 따라서 AI가 사고 판단 과정에 깊이 개입할수록 기존 법체계만으로는 책임 소재를 명확히 가리기 어려워질 수 있다는 지적이 나온다.
AI가 작업자의 안전모 미착용을 감지하지 못해 사고가 발생했다면 누구의 책임일까. AI 프로그램을 개발한 회사일까, 카메라를 설치한 회사일까, AI 시스템을 도입한 사업주일까. 아니면 경고를 확인하고도 조치하지 않은 현장 관리자일까.
AI와 로봇의 등장은 사고조사 방식도 바꾸고 있다. 과거에는 사고 현장과 목격자 진술이 중요한 증거였다. 하지만 이제는 로봇의 작동기록, 센서 데이터, AI 판단 과정, 소프트웨어 업데이트 기록을 확인해야 한다.
로봇이 사고 직전 어떤 정보를 감지했는지, 어떤 명령을 받았는지, 왜 특정 방향으로 움직였는지를 분석해야 한다. 그래서 앞으로 사고조사는 현장조사와 함께 디지털 포렌식이 필수가 될 것이라는 전망이 나온다.
그런데 문제는 또 있다. 기업이 사고와 관련된 데이터를 얼마나 투명하게 공개하느냐다. 사고 원인을 밝히는 데 필요한 데이터가 기업의 영업비밀이나 기술정보와 충돌할 수도 있기 때문이다.
책임을 피하기 위한 ‘인간의 개입’은 오히려 위험하다. 특히 우려되는 것은 책임을 피하기 위해 AI를 형식적으로만 활용하는 경우다. 기업이 AI 시스템을 도입해 놓고 사고가 발생하면 “AI가 그렇게 판단했다”고 책임을 회피하거나, 반대로 AI가 경고했는데도 관리자가 무시한 사실을 숨기는 상황이다.
현재의 AI는 법적으로 독립된 책임 주체가 아니다. 결국 최종 책임은 제조사와 사업주, 관리자 등 인간과 조직에 돌아갈 수밖에 없다. 따라서 AI와 로봇을 산업현장에 도입하는 기업은 단순히 장비를 구입하는 데 그쳐서는 안 된다.
누가 시스템을 관리하고, 누가 경고에 대응하며, 오류가 발생했을 때 누가 작업을 중단시킬 것인지 명확히 정해야 한다. 사고가 발생한 뒤 책임자를 찾는 것보다 처음부터 책임 구조를 명확히 설계하는 것이 중요한 것이다.
전문가들은 로봇을 도입할 때 이런 사항들을 사전에 정해야 한다고 말한다. 로봇의 위험성을 누가 평가할 것인가, AI 판단의 최종 승인자는 누구인가, 시스템 오류가 발생하면 누가 작업을 중단할 것인가, 소프트웨어 업데이트로 문제가 생기면 누가 책임질 것인가, 사고 발생 시 관련 데이터를 어떻게 보존할 것인가 등이다.
AI와 로봇은 인간을 위험한 작업에서 벗어나게 하기 위해 만들어졌다. 그러나 기술이 자율화될수록 인간의 책임이 줄어드는 것은 아니다. 오히려 반대다. 사람이 직접 기계를 움직이지 않더라도, 어떤 기계를 선택하고 어떻게 설치하며 어떤 기준으로 관리할 것인지 결정하는 것은 인간이다. 결국 로봇이 사고를 냈다는 말의 뒤에는 언제나 인간의 선택이 존재하는 것이다.
