[인공지능 개론 수업 2] 기계 학습(ML)의 주요 모델 - 2

• 인공지능의 역사

• Expert System(규칙기반, 전문가 시스템)
  • 전문가 시스템
    • 개발배경
      • 인공지능의 초창기에는 이세상에 존재하는 모든 문제를 "탐색"으로 해결할 수 있는 시스템을 만들고자 노력함
      • GPS(General problem Solver)시스템이며, 이 시스템은 매우 제한된 영역(예: 블록세계, 하노이 탑)에서만 작동이 가능하였음
      • 실제적인 문제를 해결하기 위해 인공지능 연구자들은 보다 제한된 문제에 역량을 집중시하는 것이 필요하다는 것을 깨달았음 >> 전문가 시스템(expert system), 지식이 추론 기법만큼 중요하다는 것을 깨닫게되었음
  • 전문가 시스템의 의의
    • 전문가 시스템은 기존의 절차적 코드가 아니라, 규칙으로 표현된느 지식을 통해 추론함으로써 복잡한 문제를 해결하도록 설계되었음
    • 전문가 시스템은 인공지능(AI)소프트웨어의 최초의 성공적인 형태임
  • MYCIN
    • MYCIN은 박테리아의 감염을 진단하고 적절한 항생제를 처방하는 시스템
    • MYCIN은 경험이 없느 신참의사들을 보조하는데 매우 효과적이였다고 함
  • 전문가 시스템의 구성요소
    • 지식베이스, 추론엔진, 사용자 인터페이스가 있음
    • 지식베이스
      • 우리가 일반적으로 알고 있는 특수한 문제 영역에 대한 사실이나 규칙등으로 구성되어 있음
        • 보행자 신호가 켜지면 사람들이 건너간다 등
    • 추론 엔진
      • 우리가 어떤 지식베이스에 있는 정보, 사실로부터 추론해서 우리가 풀고자 하는 문제를 해결하는, 사실로부터의 규칙을 적용하는  과정을 진행하는 엔진
      • 지식베이스와 추론엔진은 독립적인 관계를 가져야 함
      • 추론엔진에서 나온 결과는 사용자가 우너하는 답의 형태가 아닐 수 있음
  • Multi-modal AI 
    • 필요성
      • 서로다른 modality들은 상호보완 관계가 있음
      • 특정 modality의 정보가 손실되어도 상황판단이 가능
      • 존재하는 modality를 이용하여 손실된 modality유추 가능
      • 인간 자체가 멀티 모달이기 때문에 멀티 모달 aI가 더 자연스러운 의사결정 제공 가능
    • 멀티모달(Multi-Modal) 인공지능
      • 각 모달에 적합한 딥러닝 구조를 사용하여 특징 벡터 추출
      • 모달을 통합하는 방식에는 대표적으로 (a) feature concatenation / (b) ensemble classifier 두가지 방법 채택
      • 최근 멀티모달 관련 application 연구흐름은 (a)방식에서 transformer 계열까지 적용한 구조까지 발전중
    • 예시
      • Feature Vector Concatenation-1
        
        • "audio-visual speech enhancement using multimodal deep convolutional neural networks"
          • "음성data" + "입모양 data" -> Speech enhancement
          • 각 network에서 나온 feature vector을 simple concatenation후에 Marged alyer로 변환
          • Fully connected layer를 추가하여 object function을 통해 전체 parameter를 학습
          • 아래와 같이 Feature vector에 대한 병합 구조를 가지고 있음 

• Feature Vector Concatenation-2

• Multi-modal유의점
  • 1. 서로 다른 모달리티에 따른 표현법
    • 다양한 데이터를 활용해야 한느데, 각 데이터 유형에 따른 특징이 달라 표현법이 다름
  • 2. 서로 다른 모달리티의 데이터 특징 매칭 불균형
    • 서로 다른 모달리티에서 오는 데이터 특징의 매칭이 고르지 못함
  • 3. 특정 모달리티에 대한 가중치 편향
    • 여러 모달리티를 사용하기에 각 모달리티를 공평하게 참조를 해야하지만 그러지 못함
    • NN모델들은 결과를 내기 위해 중요한 데이터에 더 큰 가중치를 두는 경향이 있음
    • ex. 시각 + 소리 데이터를 넣었을 때, 시각이 대상으 ㅣ식별에 더 큰 영향을 끼치기에 시각 데이터에 더 ㅁ낳은 가중치 할당
    •