모든 학문은 지식을 만들고 저장하기 위해 존재하는데 도대체 지식이란 무엇일까?
동양과 서양이 다르며, 사람마다 다르게 생각할까?
•지식의 목표: 全知全能(神)
•핵심 개념:
–문자/점토/아카이브/도서관/DB – 정보의 축적
–인쇄, 컴퓨터(PC), 인터넷 – 정보 생산의 증폭
–Deus ex machina – 힘의 증폭
–사이버네틱스 – 정보(지식)생산의 증폭
•방공부대는 A지역으로 이동되었다(지식)-방공부대에 운용인력이 존재한다(구조화)
•신문기사(정보)-장교(병사)의 이름(의미)
•신문기사(Data)
•지혜: Contents(언어)+ Context(상황)
•지식: 언어(주어+동사+목적어=구문분석)
•지식: 언어(주어+동사+목적어=구문분석)
•정보: 데이터+필요
•단계: 지혜->지식->정보->데이터
•계량정보분석:인용도, 이용도, 빈도
•統計的学習理論
目次
第1章 統計的学習理論の枠組
1.1 問題設定
1.2 予測損失と経験損失
1.3 ベイズ規則とベイズ誤差
1.4 学習アルゴリズムの性能評価
1.5 有限な仮説集合を用いた学習
第2章 仮説集合の複雑度
2.1 VC次元
2.2 ラデマッハ複雑度
2.3 一様大数の法則
2.4 タラグランドの補題の証明
第3章 判別適合的損失
3.1 マージン損失
3.2 判別適合的損失
3.3 判別適合性定理:凸マージン損失
3.4 判別適合性定理:一般のマージン損失
第1章 統計的学習理論の枠組
1.1 問題設定
1.2 予測損失と経験損失
1.3 ベイズ規則とベイズ誤差
1.4 学習アルゴリズムの性能評価
1.5 有限な仮説集合を用いた学習
第2章 仮説集合の複雑度
2.1 VC次元
2.2 ラデマッハ複雑度
2.3 一様大数の法則
2.4 タラグランドの補題の証明
第3章 判別適合的損失
3.1 マージン損失
3.2 判別適合的損失
3.3 判別適合性定理:凸マージン損失
3.4 判別適合性定理:一般のマージン損失
•Affordance ->행동 유도성 -> James Gibson : 탈 frame
•로봇 I 문제
- 예비 배터리를 꺼내야 한다
- 예비 배터리를 꺼내야 한다
- 배터리 위에 폭탄이 올려져있다. 이것을 로봇에게 어떻게 가르칠까?
- 「자신의 의도했던 것에 동반하고 환경에
일어나는, 부차적인 결과를 인식하는 것」
- 계산량 무한대-> 시간
초과로 폭발
- 「그렇다! 로봇에게, 목적으로 하고 있는 행위에 관계하고 있는
결과와 무관계한 결과와의 구별을 가르쳐 주어, 관계가 없는 것은 무시하도록 하면 좋은
것이다」.
- 계산량 무한대-> 시간 초과로 폭발
•공간: 물질,매질,면,레이아웃,사건
정보(가치)의 정량성:
1913년 A. A. Marcov - 마르코프 체인으로 푸쉬킨의 시 Evgenii Onegin의 정량적 평가
1933년 G. D. Birkhoff 미적척도(aesthetic measure) 도형들의 가치들을 수치로 환원하고 측정
- 너무
복잡하기만 하면 정신 없고, 너무 질서만 있으면 지루하다. 이 혼란과 질서의 적절한
관계 그것이 우리가 어떤 사물을 아름답게
느끼는 전제 조건.
1948년 C. Shannon: A Mathematical
Theory of Communication 정보 엔트로피 개념 도입. 수학이론화
- 아름다움(미)의 정보를 정량화 할 수 있는가?
-계산된 미: 기타오지 로산진
•정보 정량화
–1912년 영국 R·A- Fisher 정보를 확률과 묶는 최초의 시도
–1928년 하틀리《정보의 전송》이라는 연구에서《하틀리의 양》되는 것을 규정해, 《정보량은 선택의 수에 비례한다》라고 하는
명제를 주었다.
– 1929년,
L·시라드는 정보와 엔트로피의 관계에 대해 기본적인 개념
–1948년 C. Shannon 정보이론: 정보 엔트로피 개념 도입. 수학이론화
–《정보》의 개념은 관여하고 있지 않고, bit 이외 아무런 규정도 주어지지 않았다.
–정보량이 늘면 통신 속도가 떨어진다는 모순 발생 – 대책: 엔코드, 압축의 개념
•모순: 정보의 개념(일원론, 이원론)
–N.Wiener:「만약 엔트로피가 무작위 상태의 측도이라고 하면, 정보량은 질서 상태의 측도가 된다」.
–L·불리안:「만약 엔트로피가 무작위 계를 특징 지운다면, 부엔트로피는 질서 있는 계를 특징 지운다」 부엔트로피로서의 정보가, 계의 질서 있는 상태의 측도가 되는 것
보완:
–정보를 의미상으로부터
고찰하는 체계적인 방법(어의론적)
–A.A. Harkevich: 정보 과정을 내용적으로 해명하는 방법(정보 수신자가 정보를 받아들인 것에 의해서 자신의
목적을 어느 정도의 확률로 달성했는지를
그 확률의 증가량으로 평가하는 방법)
사이버네틱스 : ‘Cybernetics or Control and Communication in the Animal and
the Machine사이버네틱스
- 동물과 기계 속에서의 제어와 통신(communication)과 통제(control)에 관한 학문’ – N.Wiener(1948)
–호메오스타시스와 피드백
기계론적:
위너: 동물과 기계 속 제어와 통신에 대한 연구
분야
애쉬비: 에너지에는 열려 있지만 정보와 제어에는 닫혀
있는 - 정보가 밖으로 새지 않는 - 시스템들에 대한 연구”
스타인부흐: 일반적인 구조적 관계, 기능 그리고 시스템을 수학을 써서 그리고
구성적으로 다루는 것
비기계론적:
St. 비어 : 사이버네틱스는 시스템 속 정보의 흐름을, 그리고 시스템이 자신을 제어하는 수단으로
이러한 정보를 사용하는 방식을 연구한다.
•Krippendorff, Klaus: 사이버네틱스에서 이론들은 4개의 기둥 -
다양성, 순환성, 과정과 관찰 - 으로 떠받쳐지는 경향이 있다
–다양성은
정보, 통신/소통과 제어와 밀접한 관계를 맺고 있다.
–과정은
되먹임, 통신/소통, 조절과 제어에 함의되어 있으며,
–관찰은
결정과 제어를 위한 기본 조건이다.
–
한계:
①모델과 모델화 대상과의 절대적 동일시는 잘못
②외부적 기능만을 중시하는 사이버네틱스모델은 복합동태계를 분석하는데 불가결한 수단이지만, 절대시 할 수 없는 것
- 모순: 계의 응답(현상의 외부적인 형태에 의한다)과 계의 내부 구조 간의 모순(Ex. 수면과 체온)
《범물질파》 - 유르술YpcyЛ, 나비크И. B. Hoвик
「정보는 인간사회 뿐만 아니라 생물계, 2수준 이상의 복잡함도 공학계, 그리고 한층 더 무기적인 자연계 일반적으로
존재한다」
《한정파》 - 주코프
ЖикиоЬ
「정보는 인간사회, 생물계, 그리고 cybernetic 기능도 공학계에만 존재한다」
Norbert Wiener – 사이버네틱스 《최적화에 관한 과학》
-동력원, 전달 기구, 동작 기구 + 제어기구(시스템의《정리》, 즉 계의 질서화)
И.
B. Hoвик :
①사이버네틱스의
발생은 제어 과정의 증대 및 이론 면에서의 발전이라고 하는, 두 개의 합법칙적인 필연성으로부터 나타난
것이다.
②사이버네틱스의 발전은 이것에 대한 관념적, 신비주의적
왜곡이나, 비속한 형이상학적 해석을 논파했다.
③사이버네틱스의 성공은 창조적, 변증법적
입장이 중시되는 향후의 연구로 향해서, 복잡한 일련의 문제(예를 들어 정보와 엔트로피의 관계, 인간과 기계 그 외와의 상호의 관계 등의 문제)를 제기하고 있다.
- 튜링의 한계: 기계가 인간의 아이처럼 학습할 수 있다
•인간의 아이는 백지로 태어나는 것이 아니라, 세대부터
세대로 계승되어 저축할 수 있던, 방대한 유전 정보를 계승하고 있는 것이다.
•아이는 태어나고 나서의 학습으로 얻은 정보를, 한층 더
이러한 전의 세대부터 계승한 정보로 덧붙이고 있으므로, 학습의
과정이 기계의 정보 축적 과정과 질적으로 차이가 나는 것이다.
•사이버네틱스 한계
–「개인의 현실의 사회적 관계의 풍부함은, 완전히 그
사람의 현실의 사회적 관계의 풍부함에 의존한다」(마르크스).
–cybernetics 기계에 대해도 같이, 그 본질은
기계를 구성해 있는 제요소의 구조나, 그러한 상호의존성에 의거 하고 있다. 따라서, 사이버네틱스 기계의 진보는 기계의 내부
구조의 개선이라고 볼 수 있다.
–장래의 장치는 함수적 변화의 연속량까지 취급하는 수학 조작에 의거하는 것이 되어야 한다.
•사이버네틱스 종류
(1)이론적 사이버네틱스
(2)실험적 사이버네틱스 - 사이버네틱스에 의거하는 모델화가 이 중심을 이룬다.
(3)기술적 사이버네틱스 - 중국 과학자 錢學森(천쉐썬)에 의해서 주어진 명칭으로, 외계의 정보를 제어 신호로 변환하는 계의
구성법, 최적 조건 혹은 안정성·신뢰성의 보증된 계의 구성법
•사이버네틱스와 물리
①거대 기구계(뉴튼역학) ②미소계(양자역학) ③복합 동태계(사이버네틱스-반영의 물리학)
•H. ЖикиоЬ – 니콜라이 이바노비치 주코프
–「정보는 인간사회, 생물계, 그리고 cybernetic 기능도 공학계에만 존재한다」
–가동 정보와
원초 정보(축적된, 고유의, 결합한, 구조적인 정보)를 분명히 구별
•가동 정보는 밖으로부터 받아진 것으로 제어에 이용되는 작용의 시간적·공간적 구조, 측면, 내용이며,
•원초 정보는 시스템의 《기억》을 형성하고 있어, 즉 넓은 의미로 반영의 결과로서 광의의 정보
•원초 정보가
특정의 상황 하로 관찰되는 경우에는, 보통 《관련》정보로 불린다)
•다만 양자의 사이에는 절대적인 구분은 없고, 학습 가능한 시스템에서는 가동 정보는 점차 원초 정보(혹은 관련 정보)로 결합된다.
–정보는 반영이 될 때 의미를 가진다.
–각각의 작용은 모두 거기에 대응한
주위의 변화를 일으키는 것은 아니고, 《반영의 흔적》, 지각에 있어서 작용의 선택성에 의존한다. 예를 들어 철로 만들어진 것은 자계의 작용을 반영해 자화되지만, 철 이외의 금속은 일반적으로 자계의 작용을
받지 않는다.
–반영:
•무기계에 있어서의 반영
•생물계에 있어서의 반영
•인간사회에 있어서의 반영
•공학계(인공적《자연》)의 반영
–샤논의 오류:
•정보는 균등확률로 발생하지 않는다
•정보의 유의적 의미를 무시하고 있다
–신진대사
•물질적(실체적) 측면,
•에너지적 측면,
•정보·제어적 측면을 가지고 있다.
댓글 없음:
댓글 쓰기