특이점이 온다

• 19/10/29, 19/11/05 읽음
• 20/01/12 주석 파트 읽음

p83 (기술의 생명 주기)

• 1. 전조: 발상. 때때로 기록까지. 그러나 기록이 발명은 아니다. 다빈치가 비행기와 자동차 설계를 그린 것은 발상이다.
• 2. 발명: 호기심 + 과학적 재주 + 결단력 + 약간의 쇼맨십 (MP3)
• 3. 발달: 맹목적인 후견인들의 보호. 중요한 창작의 추가. (인터넷의 보급, 소리바다?)
• 4. 성숙: 독자적인 생명력을 갖고 사회의 일부가 됨. 영원할 것으로 보임. (누구나 갖고 다니는 아이리버, 아이팟)
• 5. 가짜 사칭자: 새로운 기술 등장. 눈에 띄는 장점이 있지만 뭔가 부족하다. 곧 실패하게 되고, 기술 보수주의자는 이것이 기존 기술의 영원한 종속의 증거라고 받아들임. (MP3폰. 음질도 안 좋고, 배터리도 빨리 닳고..)
• 6. 쇠퇴: 더 새로운 기술이 나타나서, 기존의 기술을 쇠퇴시키기 시작. 본래 목적과 기능이 새로운 기술에 편입 (스마트폰. 기존 MP3는 더욱 최고급 고음질을 추구)
• 7. 유물: 지난 시절의 유물이 된다.

p116 (우주의 기초 단위)

우주의 기초 단위는 물질, 에너지가 아니라 "정보"일 수도 있다. 물질, 에너지의 상호작용은 사실 정보의 교환일 뿐이었다.

• 모든 기초 물리 현상은 정보 교환의 과정
• DNA, 생화학적 과정도 디지털 정보 처리의 과정
• 인간의 사고 과정도 정보 처리 과정
• 차라리 컴퓨터에 가까운 우리 우주

p125 (세포 자동자에서 고차원의 지능으로)

세포 자동자... 한계가 있다.

• 세포 자동자는 무작위성을 생산하지만... 제한된 패턴이다.
  • 세상의 기본 요소는 정보일 수도 있다는 것을 알려준다.
  • 그러나 분명 생물에는 제4형 자동자 패턴 이상의 뭔가가 있다.
  • 어떻게 벌레, 인간, 쇼팽 서곡등을 얻을 수 있을까?
• 유전 알고리즘 도입. 그러나 부족하다. 아무리 오래 실행해도 안 될 것이다.
• 진화를 다양한 수준에서 수행해야 한다.
  • 종래 유전 알고리즘은 하나의 수준에서만 진화.
  • 유전 암호 체계 자체가 진화해야 한다.

p257 (대뇌 피질)

대뇌 피질

• 언어라는 기술의 기원은 거울 능력?
  • 인간과 원숭이 같은 일부 영장류만이 거울을 통해 기술을 습득할 수 있다.
  • 언어가 손을 통한 의사 표시에서 발생했다는 가설을 세웠다. (지아코모 리졸라티, 마이클 아비브)
  • 손을 통한 의사 표시는 원숭이와 인간만이 할 수 있다.
  • 손짓을 한다는 것 = 자신의 손 동작에 대한 관찰과 행위 자체를 마음 속에서 연관 지을 줄 안다는 것
  • 반전성의 이해가 핵심
• 타인 활동 모방이 언어 발생의 핵심?
  • 관찰 표상의 재귀적 조각내기 능력
• 의식은 환상?
  • 뇌가 어떤 행동을 하기로 결정을 내리기 1/3초 전에 이미 그 행동을 지시하는 신경 활동이 개시된다.
  • 결정이란 환상에 불과하고, 의식은 의사 결정에 개입하지 않는다.
  • 뇌의 어떤 부분에서 근육에 곧장 신호를 보내는데, 도중에 잠시, 의식적 행위자인 당신에게도 정보를 주고 가는 것.
  • 전기 자극에서 특정 감정을 일으키는 실험에서, 피험자는 왜 그런 감정이 드는지 즉시 논리적인 이유를 만들어 냈다.
• 방추세포
  • 인간과 일부 유인원에게만 있는 세포
  • 다른 뇌 영역으로부터 광범위하게 신호를 받아들임
  • 8만 개밖에 없음 (고릴라 16000, 보노보 2100, 침팬지 1800)
  • 참고로 소뇌에는 기술 형성을 다루는 뉴런이 500억 개가 있고, 피질에 인지활동 및 합리적 계획을 수행하는 뉴런이 수십억 개가 있다.
  • 척수
    • (피부, 근육, 장기)에서 (감촉, 온도, 산성도, 음식의 운동 등)의 정보를 보낸다
  • 뇌간과 중뇌
  • 제1층판 뉴런 세포
    • 인체 상태의 지도를 그린다.
  • 후측배내측핵(VMpo)
    • 인체 상태를 바탕으로 반응을 연산한다. (맛없어, 악취난다, 저 빛은 자극적이야)
  • 섬엽
  • 앞섬엽 피질
    • 방추세포가 존재한다.
    • 사랑, 분노, 슬픔 등의 고차원적 감정. 연인을 볼 때, 아기가 우는 소리를 들을 때
    • 1500~1000만년 전 사이에 처음 등장
    • 유인원과 초기 사람종 에서 생겨났을 것이다 (아직 뇌피셜)
    • 10만년 전 갑자기 불어났다
    • 신생아에는 없고, 출생 후 4개월 무렵부터 생겨나서, 12~36개월 사이에 급격히 불어난다. (도덕적 능력, 사랑 인식)
  • 결국 VMpo와 섬엽에 의한 인체 지도를 그릴 수 있어야 감정이 생길 수 있다? (안토니오 다마지오 - 데카르트의 오류)
  • 주위 세계의 이미지뿐만 아니라 나 자신의 몸에서 일어나는 생명 조절 작용의 이미지를 파악(생성)할 수 있어야 한다

p273 (뇌 역분석의 대상)

누구의 뇌를 역분석 하는 것인가?

• 남자? 여자? 천재? 정신 지체자? 천재 백치? 예술가? 살인마?
• 아인슈타인의 뇌는 두정엽이 엄청 커졌다 (시각 영상과 수학적 사고를 담당)
• 결국 다양한 사람들을 다 분석해야 할 것

p303 (다른 부위간 세포의 차이)

피부 세포와 다른 종류의 세포의 차이는?

• DNA는 모두 같다.
• RNA나 펩티드 같은 신호 전달 단백질들이 차이난다.

p381 (OpenCog)

벤 괴르첼, 범용 AI를 위한 기초 틀 = 노바멘테 엔진 = OpenCog

p429 (프로그래머 = 갓)

컴퓨터 프로그래머는 우주의 창조주나 마찬가지다. 그는 혼자서 세상의 법칙을 정한다. 제아무리 훌륭한 극작가, 무대감독, 설령 황제라 해도 이토록 절대적인 권위를 휘드르며 무대나 전장을 다스리진 못했고, 이토록 변함 없이 충실한 배우나 군대를 거느리진 못했다. -조셉 바이젠바움

p517 (수동적 특이점주의자)

특이점을 기대하다 보면 자칫 현재의 문제들을 해결하는 데 수동적일 수 있다고 지적한다. (철학자 막스 모어)

• 대단한 존재가 떠오르는 무렵이라 오늘날의 일상적인 문제에 초연해질 수 있는데, 그러면 안된다.
• 적극적으로 살아야 한다.
• "안정"과 "평화"를 사수하고, "신에 대한 도전"과 "미지의 것"을 배격하려는 피상적인 종교적, 문화적 충동 때문에 기술 발전의 저해가 일어나는 것을 적극적으로 반대해야 한다.

p529 (의식이란)

그래서 다시, 의식이란 무엇인가?

• 왜 나는 끊임없이 이 사람의 경험과 느낌을 의식하는가?
• 종종 심리학이나 행동이나 지능이나 신경학 같은 다른 얘기로 엇나가 버리는데, 그러지 말고, 왜 내가 지금 이 특정한 사람인가? 하는 질문

p614 (인간 수준의 지능을 얻기)

• 실제 뇌의 병렬식, 카오스식, 자기조직적, 프랙탈식 기법들을 역분석하기
• 뇌를 구성하는 수백 개의 정보 처리 소영역들에 대한 상세 모델을 구축해야 한다
• (유전 알고리즘처럼, WANN-Weight Agnostic Neural Networks처럼 신경망 설계가 아니라 신경망 설계를 하는 것을 설계하기? 스파이킹 뉴런을 자동설계하기?)
• 개체가 환경을 경험하면, 개재뉴런 연결과 신경전달물질의 농도 패턴을 실제를 더 잘 반영하는 방향으로 자기조직적으로 변화한다.
• 진화는 바퀴를 가진 생명체를 만들어내지는 못했다. 하지만 수많은 바퀴를 만들어 낼 수 있는 생명체를 만들었다.

p717 (양자 얽힘)

양자 얽힘은 고차원 공간에서의 입자들끼리의 결합일까?

• (나의 상상-종이를 반절로 접고, 거기에 종이를 통과하도록 자석 두개를 붙여놓자. 그러면 종이 위의 2d 세계 사람들은, 자석이 서로 떨어져있음에도 불구하고, 연관(얽힘)되어 있다고 생각할 것이다.)
• (양자 얽힘을 끊어내는 방향이, 고차원으로의 방향이 아닐까?)