이 평가값은 누가 정했나: FMEA의 심각도·발생도·검출도가 어디서 왔는지 기록하기
FMEA 검토자는 구분할 수 있는 평가값만 판단할 수 있습니다. Forge FMEA는 이제 심각도·발생도·검출도마다 직접 입력했는지, AI 제안을 그대로 받았는지, 고쳤는지를 기록하고, 아무도 손대지 않은 AI 값에 표시를 달고, 모든 리포트에 승인된 리비전을 적습니다. Forge SOP도 승인한 AI 초안 단계에 같은 일을 합니다.
이 페이지 목차
FMEA 워크시트는 판단의 목록입니다. 심각도, 발생도, 검출도는 모두 누군가 척도에서 고른 숫자이고, 문서는 그 선택만큼만 믿을 수 있습니다. AI 어시스턴트가 숫자를 채울 수 있게 되면 새로운 질문이 생깁니다. 이 페이지의 평가값 중 사람이 결정한 것은 어느 것이고, 사람이 그저 그대로 둔 것은 어느 것인가?
0.21 이전의 Forge FMEA는 이 질문에 답할 수 없었습니다. AI가 제안하고 사람이 그대로 둔 평가값이 사람이 직접 고른 값과 똑같이 저장됐습니다. 이 글은 그것이 왜 문제인지, 그리고 워크시트가 이제 무엇을 기록하는지 설명합니다.
결정처럼 보이는 제안이 왜 문제인가
인간공학 연구는 이 현상을 수십 년 동안 자동화 안주(automation complacency)와 자동화 편향(automation bias)이라는 이름으로 다뤄 왔습니다. Parasuraman과 Manzey가 실증 연구를 정리한 논문은 서로 관련된 두 가지 실패를 설명합니다. 부하가 걸린 사람은 자동화 도구가 낸 결과를 더 이상 확인하지 않게 되고, 결과가 틀렸을 때도 그것을 따르며, 평소라면 했을 확인을 생략하는 경우도 포함됩니다. 둘 다 부주의한 사람이 있어야 일어나는 일이 아닙니다. 대체로 맞는 의사결정 보조 도구와, 그 출력을 페이지의 다른 것들과 똑같아 보이게 만드는 화면이면 충분합니다.
검토 단계가 있으면 문제는 더 날카로워집니다. 검토자가 모든 평가값이 똑같이 권위 있어 보이는 워크시트를 받으면 검토를 겨냥할 수 없습니다. 모든 값을 처음부터 다시 도출하면 어시스턴트를 쓰는 의미가 사라지고, 모든 값을 믿으면 검토의 의미가 사라집니다. 검토의 질은 어느 숫자에 사람의 판단이 담겼고 어느 숫자에 모델의 추측이 담겼는지 검토자가 구분할 수 있느냐에 달려 있습니다.
S, O, D마다 붙는 세 가지 출처
심각도, 발생도, 검출도는 이제 각각 출처를 가집니다.
- entered(입력): 사람이 골랐습니다.
- accepted(수용): AI 제안을 그대로 받았습니다.
- corrected(수정): 사람이 제안된 값을 바꿨습니다.
새 행의 기본값과 이 필드가 생기기 전에 저장된 평가값에는 출처가 없습니다. 기록된 사람이 없고, 워크시트는 그런 척하지 않습니다. 이 규칙은 모든 평가값 쓰기가 지나가는 한 곳에서 기록되므로 붙여넣기, 아래로 채우기, 실행 취소가 우회할 수 없습니다. 편집을 취소하면 이전 값과 함께 이전 출처가 돌아오며, 취소 자체가 누군가의 선택으로 기록되지 않습니다.
워크시트에서는 AI 제안이 채웠고 아직 아무도 바꾸지 않은 S, O, D에 작은 AI 표시가 붙습니다. 사람이 입력한 값이나 사람이 고친 제안에는 표시가 없습니다. Excel 내보내기에는 S: AI · O: person · D: AI, edited 같은 Rating Origin 열이 추가되어 프로그램 밖에서도 정보가 남습니다. 심각도는 고장 모드의 영향에 속하므로 심각도의 출처는 지배 영향의 출처입니다. 최종 사용자 영향 중 심각도가 가장 높은 것이고, 최종 사용자 영향이 없으면 전체 중 가장 높은 것입니다.
어느 리비전이 승인됐나
문서 상태(초안, 검토, 승인)는 파일 형식에 처음부터 있었지만 아무것도 그것을 설정하지 않아 모든 FMEA가 초안으로 남았습니다. 0.21이 이 단계를 완성합니다. 워크시트 마지막 단계에서 문서는 초안에서 검토, 승인으로 옮겨 가고, 승인된 문서는 초안으로 되돌릴 수 있습니다. 승인에는 승인자의 이름이 필요합니다. 승인된 내용은 다음 스냅샷 리비전으로 저장되고, 그 리비전과 시각과 승인자가 문서에 기록됩니다.
정직성을 위한 세부 규칙이 둘 있습니다. 승인된 FMEA를 내용이 바뀐 채 저장하면 초안으로 저장되고, 기록은 여전히 승인된 리비전을 가리킵니다. 그리고 PDF 리포트와 Excel 내보내기는 모두 상태를 적고, 승인된 뒤에는 리비전, 승인자, 날짜를 적습니다. 그래서 이후 수정본을 인쇄한 것이 승인된 내용으로 오해되지 않습니다. 프로젝트 목록의 각 카드에는 상태 배지가 있고, 제공되는 템플릿에서 만든 문서는 초안으로 시작합니다. 템플릿의 예시 상태는 누구도 수행한 적 없는 검토이기 때문입니다.
Forge SOP의 같은 생각
SOP 단계는 AI 초안으로 시작할 수 있습니다. Forge SOP 0.16에서는 초안을 적용하면 채워진 단계와 섹션마다 불러온 모델과 시각이 기록됩니다. 단계 편집기는 그런 단계에 모델과 날짜가 담긴 AI 초안 표시를 달고, 인쇄된 SOP에는 단계 옆에 AI draft · accepted가 찍힙니다. 사람이 쓴 단계나 다른 앱에서 가져온 단계에는 표시가 없습니다.
표시가 말하지 않는 것
출처는 값을 마지막으로 누가 결정했는지를 기록할 뿐 값이 옳은지는 말하지 않습니다. accepted는 누군가 제안을 그대로 뒀다는 뜻이지 검증했다는 뜻이 아니며, person 출처가 평가값을 옳게 만들지도 않습니다. 표시는 검토자의 주의를 가리키기 위한 것이지 주의를 대신하는 것이 아닙니다. 이 필드가 생기기 전의 평가값은 출처가 전혀 보이지 않고, 그런 값에는 승인 기록만 도움이 됩니다.
IEC 60812는 FMEA를 계획하고, 수행하고, 문서화하고, 유지하는 분석으로 설명합니다. 각 판단의 출처를 판단 옆에 남기는 것은 문서화의 한 구체적인 방법입니다. 이 기능이 워크시트가 어떤 표준을 충족한다고 주장하는 것은 아닙니다. 그것은 조직 자신의 품질 시스템이 판단할 일입니다.
Forge FMEA와 Forge SOP에서 해 보기
Forge FMEA에서 AI에게 평가값을 제안하게 하고, 일부는 받고 하나는 고친 뒤 표시를 보세요. 그다음 문서를 검토로 옮기고 승인한 뒤 PDF를 내보내 계획 표의 첫 행들을 보세요. Forge SOP에서는 절차에 AI 초안을 적용하고 인쇄해 보세요.
참고문헌
- R. Parasuraman and D. H. Manzey, "Complacency and bias in human use of automation: an attentional integration", Human Factors, 52(3), 2010, pp. 381–410, doi:10.1177/0018720810376055.
- IEC 60812:2018, Failure modes and effects analysis (FMEA and FMECA), edition 3.0, International Electrotechnical Commission, 2018.