기계학습의 역사 1

<아래 글은 '만들면서 배우는 기계학습' 을 읽고 쓰는 글입니다.>

1_기계 학습 연구 시작(1950년대~)

기계  학습을 포함한 인공지능 연구 분야에선 게임을 자주 연구대상으로 다룹니다.

특히  그 중 체스나 장기 또는 바둑 같은 게임은 쌍방이 게임 정보를 완전히 파악한 다음

학습과 추론 등 지적 행동에 따라 대전이 진행되므로 지적 행동의 정수를 뽑기 쉽다 여겨

인공지능 연구 초기부터 많이 활용되었습니다.

여기서 이 시대의 대표적인 학자 '아서 새뮤얼'이 등장합니다.

그는 체스나 장기 보다 조금 간단한 '체커'라는 게임을 가지고 기계학습을 연구했습니다.

1952년 그는 기계 학습을 통해 스스로 강해질 수 있는 체커 프로그램을 발표합니다.

새뮤얼의 프로그램은 '파라미터 조정'에 기초한 기계 학습을 이용했습니다.

새뮤얼의 프로그램을 간단히 설명하면 이렇습니다.

상대방의 말의 움직임을 입력으로 받아들여, 그에 대응하는 자신의 말을 출력합니다.

이 때 가능한 여러 개의 수를 구한 뒤 결과를 평가한 뒤 가장 유리한 수를 출력합니다.

이렇게 어떤 상황에 대한 평가치를 구하는 함수를 '평가 함수'라고 합니다.

이 '평가 함수'가 상황을 평가하는 기준이 되는 설정 값을 '파라미터'라고 합니다.

'파라미터'의 설정이 '평가 함수'의 성능을 결정하고, 그 성능이 경기의 승패를 좌우합니다.

새뮤얼은 이 '파라미터'의 설정을 프로그램 스스로 과거 기록을 참조해 학습하도록 했습니다.

기본적으로 이 방식의 기계학습은 데이터 양이 많이 필요하다는 단점이 있습니다.

하지만 이 단점은 현재 인터넷 환경에서는 전혀 제약사항이 되지 않습니다.

오히려 그 활용도가 점점 늘어간다고 할 수 있겠습니다.

2_기계 학습 연구 발전(1970년)

인공지능의 연구가 계속되고, 사람들은 위와 같이 수치화된 데이터가 아닌,

수치화 할 수 없는 개념적인 지식을 회득하는 방법에 대해 생각하게 됩니다.

그 한 예로 Winston의 집 짓기 블록에서 나온 개념 획득 연구가 있겠습니다.

위 연구에서 '아치'라는 개념을 어떻게 획득하는지 알아봅시다.

먼저, '아치' 개념에 적합한 예, 즉 '정례'를 보여줍니다.

다음, '아치'와 비슷하지만, '아치'가 아닌, 즉 '반례'를 보여줍니다.

이런 과정을 통해 '아치'의 개념을 자동으로 획득할 수 있습니다.

이런 구체적인 사례를 통해 일반적인 지식을 추출하는 '귀납 학습'이라 합니다.

반대로 주어진 원리와 법칙을 통해 구체적 사례를 도출하는 '연역 학습'이 있습니다.

하지만 사실 '정례'와 '반례'를 어떻게 정하는가가 귀납 학습의 가장 큰 장애물입니다.

반례만으로는 올바른 개념을 획득할 수 없고, 정례만으로는 개념의 일반화가 불가능합니다.

3_진화 연산 방법에 기초한 기계 학습 제안(1970년대~)

일반적으로 생물이 진화 과정에서 환경과 상호작용하면서 환경에 더 적합한 형질이

집단 속에서 유전됩니다. 결국 전체 집단이 환경에 더 적합한 형질을 획득합니다.

이를 모델로 한 계산 방법이 진화 연산 방법입니다.

그 중 가장 대표적인 것으로 홀랜드의 유전자 알고리즘이 있습니다.

처음에 획득해야 할 지식과 정보를 유전자로 표현하는 방법을 규정합니다.

그 후 난수로 유전자를 초기화합니다. 이 집단이 초기 집단이 됩니다.

유전자끼리 섞는 '교차', 유전자 일부를 랜덤하게 변경하는 '돌연변이'를 통해 

새로운 유전자를 만들어 냅니다. 

환경 적응도가 가장 높은 유전자가 높은 확률로 다음 세대로 전해지게 됩니다.

이 과정을 반복하면, 전체 평균 적응도가 상승하는 알고리즘입니다.

다음에 계속....