이해하기 쉬운 AI

인공 지능 및 필요한 어플리케이션 프로그래밍에 대한 특별한 지식 없이도, 이미 자신의 AI 기반 이미지 프로세싱 어플리케이션을 설계할 수 있기 때문입니다. 또한 인공 지능은 많은 작업 프로세스의 속도를 높이고 오류의 원인을 최소화 할 수 있지만, 엣지 컴퓨팅은 또한 고속 이미지 데이터 전송에 필요한 고가의 산업용 컴퓨터들 및 복잡한 인프라를 생략할 수 있게 해줍니다.

새롭고 다릅니다

그러나 AI 또는 머신 러닝은 기존의 규칙 기반 이미지 프로세싱과는 상당히 다르게 동작합니다. 또한 이는 이미지 프로세싱 작업의 접근 및 처리 방식을 변화시킵니다. 결과의 품질은 더 이상 이미지 프로세싱 전문가가 수동으로 개발한 프로그램 코드의 산물이 아니라, 적절한 이미지 데이터와 함께 사용되는 신경망의 학습 프로세스에 의해 결정됩니다. 즉, 검사와 관련된 물체의 특성은 더 이상 사전 정의된 규칙에 의해 미리 결정되지 않으며, AI가 학습 프로세스에서 스스로 인식하도록 가르쳐야 합니다. 그리고 학습 데이터가 더 다양할수록 머신 러닝 알고리즘이 추후 동작에서 실제로 관련된 특성들을 인식할 가능성이 높아집니다. 하지만 그렇게 간단해 보이는 것도 충분한 전문 지식과 경험으로 원하는 목표로 이어질 수 있습니다. 올바른 이미지 데이터에 대한 숙련된 안목이 없이는 여전히 오류가 발생할 것입니다. 이것은 머신 러닝 방법으로 작업하기 위한 핵심 역량이 더 이상 규칙 기반 이미지 프로세싱에서의 핵심 역량과 동일하지 않음을 의미합니다. 그러나 모든 사람이 머신 러닝 작업을 위해 핵심 역량을 구축할 시간이나 인력을 갖고 있는 것은 아닙니다. 아쉽게도, 이것은 즉시 생산성을 가질 수 없는 새로운 것입니다. 또한 실제로 많은 노력 없이도 좋은 결과를 제공해 주지만, 명확하게 재현될 수 없다면 여러분은 그것을 믿을 수 없고 신뢰할 수 없을 것입니다.

복잡성 및 오해

누구나 AI 비전이 어떻게 작동하는지 알고 싶을 것입니다. 그러나 인식 가능하고 이해 가능한 설명이 없으면, 결과를 평가하기란 어렵습니다. 새로운 기술에 대한 자신감은 무엇을 할 수 있는지, 어떻게 작동하는지, 어떻게 사용하고 그리고 어떻게 제어하는지를 알기 전에, 오랜 시간에 걸쳐 쌓아야 하는 기술과 경험을 바탕으로 합니다. 문제를 더욱 복잡하게 하는 것은 AI 비전이 지식, 문서, 교육, 하드웨어, 소프트웨어 및 개발 환경을 통해 최근 몇 년 동안 적합한 환경 조건이 만들어진 기존 시스템에 대해 설정되었다는 사실입니다. 그렇지만 AI는 여전히 매우 정제되지 않고 순수한 것으로 받아들여지며, AI를 보고 얻을 수 있는 높은 수준의 정확성과 잘 알려진 장점에도 불구하고, 종종 오류를 진단하기 어려운 경우가 있습니다. 작동 방식에 대한 통찰력 부족 또는 설명할 수 없는 결과는 알고리즘의 확장을 방해하는 동전의 이면과 같습니다.

블랙 박스가 아닙니다

따라서 신경망이 작동하는 방식은 그 결정을 이해할 수 없는 블랙 박스로 종종 잘못 인식되곤 합니다. "DL 모델들은 의심할 여지 없이 복잡하지만, 그것들이 블랙박스는 아닙니다. 사실, 유리 박스라고 부르는 것이 더 정확할 것입니다. 왜냐하면 우리는 내부를 들여다볼 수 있고, 각 구성 요소들이 무엇을 하고 있는지 볼 수 있기 때문입니다"["머신 러닝의 블랙 박스 비유(The black box metaphor in machine learning)"에서 인용]. 신경망의 추론 결정은 이해 가능한 고전적인 규칙들을 기반으로 하지 않고, 인공 뉴런들의 복잡한 상호 작용은 인간이 이해하기 쉽지 않을 수 있지만, 그럼에도 불구하고 그것들은 수학적 시스템의 결과이기 때문에 재현 가능하고 분석 가능합니다. 다만 지원할 수 있는 적절한 도구가 부족합니다. AI 분야에서는 아직 개선의 여지가 많이 있습니다. 이는 시장에 나와 있는 다양한 AI 시스템이 사용자들의 노력을 얼마나 잘 지원할 수 있는지를 보여줍니다.

소프트웨어는 AI를 설명 가능하게 만듭니다.

이러한 이유로 IDS Imaging Development GmbH는 이러한 도구들을 개발하기 위해 연구소 및 대학교와 함께 연구하고 있습니다. IDS NXT ocean 추론 카메라 시스템에는 이미 이러한 협력의 결과가 포함되어 있습니다. 소위 혼동 행렬을 사용한 통계 분석은 학습된 신경망의 품질을 결정하고 이해하는 것을 가능하게 합니다. 훈련 프로세스 이후, 네트워크는 이미 알려진 결과들을 갖는 사전 결정된 일련의 이미지들로 검증될 수 있습니다. 예상 결과와 추론에 의해 실제로 결정된 결과가 모두 표에서 비교됩니다. 이를 통해 학습된 각각의 물체 클래스에 있어서 테스트 물체가 올바르게 인식 되거나 잘못 인식되는 빈도를 명확하게 알 수 있습니다. 이러한 적중률을 통해 훈련된 CNN의 전반적인 품질을 알 수 있습니다. 또한, 행렬은 생산적인 용도로 사용하기에는 인식 정확도가 여전히 너무 낮을 수 있는 부분을 명확하게 보여줍니다. 그러나 그 이유를 보여주지는 않습니다.

혼동 행렬(Confusion Matrix)
혼동 행렬(Confusion Matrix)

CNN 분류 나사의 혼동 행렬은 더 많은 이미지로 다시 훈련시켜 어디에서 식별 품질을 향상시킬 수 있는지를 보여줍니다.

여기서 어텐션 맵(attention map)이 등장하는데, 이것은 신경망에서 가장 주목받고, 그에 따라 결정에 영향을 미치는 영역 또는 이미지 내용을 강조하는 일종의 히트 맵(heat map)을 나타냅니다. IDS NXT lighthouse의 훈련 프로세스 동안, 이러한 시각화 양식의 생성은 훈련 중에 생성된 결정 경로를 기반으로 활성화되어, 분석 중에 네트워크가 각각의 이미지로부터 이러한 히트 맵을 생성할 수 있도록 합니다. 이를 통해 AI가 내리는 중대하고 또는 설명할 수 없는 결정들을 더 쉽게 이해할 수 있으며, 궁극적으로 산업 환경에서 신경망의 수용도를 증가시킬 수 있습니다.

또한 추론 중에 신경망이 잘못된 결정을 내리게 하는 데이터 편향을 감지하고 방지하는 데 사용할 수 있습니다("어텐션 맵" 그림 참조). 신경망이 스스로 똑똑해지지는 않기 때문입니다. 좋지 않은 품질의 입력은 좋지 않은 출력으로 이어집니다. AI 시스템은 패턴을 인식하고 예측을 수행하기 위해 "올바른 행동"을 학습할 수 있는 데이터에 의존합니다. 만약 AI가 연속적인 후속 어플리케이션을 대표하지 않는 데이터를 갖는 실험 조건에서 만들어지거나, 더 안 좋게는 데이터의 패턴이 편향을 반영할 경우, 시스템은 이러한 편향을 받아들이게 될 것입니다.

히트 맵(Heat Map)
히트 맵(Heat Map)

이 히트 맵은 고전적인 데이터 편향을 보여줍니다. 히트 맵은 바나나의 Chiquita 라벨에 대한 높은 주목을 시각화하며, 데이터 편향을 보여주는 좋은 예시입니다. 바나나에 대한 잘못된 또는 덜 대표적인 훈련 이미지를 통해서, CNN은 이 Chiquita 라벨이 항상 바나나를 제안한다는 것을 분명히 알게 되었습니다.

이러한 소프트웨어 도구의 도움으로, 사용자는 훈련 데이터 세트 내의 약점에 더 직접적으로 돌아가서 AI 비전의 행동과 결과를 추적할 수 있고, 목표로 하는 방식으로 이를 수정할 수 있습니다. 이는 AI를 더 쉽게 설명 가능하고 이해 가능하게 만듭니다. 이것은 기본적으로 수학과 통계이기 때문입니다. 수학을 이해하는 것은 종종 쉽지 않지만, 혼동 행렬과 히트 맵을 통해 결정 및 결정에 대한 이유를 가시적이고 이해 가능하게 만드는 도구들이 존재합니다.

아직은 시작에 불과합니다.

올바르게 사용되는 AI 비전은 많은 비전 프로세스들을 개선할 수 있는 잠재력을 가지고 있습니다. 그러나 하드웨어만 제공하는 것은 AI가 산업 전반적으로 확산되기에는 충분하지 않습니다. 제조 업체는 사용자 친화적인 소프트웨어 및 기본 제공되는 프로세스의 형태로 전문성을 공유함으로써 사용자를 지원해야 하는 과제를 안고 있습니다. 수많은 문서, 지식 이전 및 많은 소프트웨어 도구를 통해 수년간 발전하며 고객 기반을 구축해 온 모범 사례들을 비추어 볼 때, AI를 위해 해야할 일이 여전히 많이 있고, 현재 개발 중에 있습니다. AI의 수용성 및 설명 가능성을 더욱 높이고, 큰 테이블로 이끌어 내기 위해, 표준과 인증도 현재 작업 중에 있습니다. IDS가 이를 돕고 있습니다. 머신 러닝, 이미지 프로세싱, 또는 어플리케이션 프로그래밍에 대한 심층적인 지식이 없어도 종합적이고 사용자 친화적인 소프트웨어 환경을 통해 모든 사용자 그룹이 산업용 도구로서 빠르고 쉽게 활용할 수 있는 임베디드 AI 시스템이 IDS NXT ocean을 통해 이미 사용 가능합니다.