채팅GPT

채팅 GPT가 너무 뜨거워서 확인해보니 정리하기 좋은 영상 잘 봤습니다.

1950년대부터 현재까지 많은 노력을 기울였습니다.

  • 인공지능은 이미 1950년추천받은 지역
    • 접근 방식은 기호 기반 인공 지능, 규칙 기반 일체 포함
      • 연구자들은 세상을 기계에게 설명합니다.
        • 고양이는 이렇습니다~ 이런 문장을 만드는 규칙을 설명해줍니다.
          • 당시 언어에 대한 Chomsky 문법과 같은 규칙 기반 언어 이론이 생성됨 → 모든 문법 규칙 입력
    • 30 년잠시 기계에게 설명했지만 모두 실패했습니다.


  • 1980년새로운 방식도 제안
    • 학습 기반 인공 지능(머신 러닝)
      • 30년 동안 실패 → 기계 고양이에게 아무리 말해도 고양이와 개를 구분하지 못한다.
      • 1970~1980년대 발달심리학의 연구에 따르면 피아제나 비고츠키는 현실을 아이들에게 하나하나 규칙으로 설명하는 부모는 없었다.
        • 사람들은 데이터를 경험함으로써 스스로 학습하고 세상을 인식합니다.
        • 그래서 1980년대에 머신러닝이라는 방법이 등장했습니다!
    • 머신러닝도 30년 정도 시도하다가 2000년대 초반에 실패했다.


  • 60년 동안 실패한 인공지능
  • 2010년기계 학습 섹션이 새 이름으로 다시 나타납니다!
    • 딥 러닝 또는 딥 러닝2010년에 이름으로 등장
    • 갑작스러운 성공!
      • 알고리즘에는 차이가 없었지만 데이터에는 차이가 있었습니다!
      • 1980년 고양이 이미지 100개, 개 이미지 100개 정도를 사용하여 고양이 이미지와 강아지 이미지를 구분 → Learning X
      • 2010년에는 학습에 사용할 수 있는 데이터의 양이 상상을 초월할 만큼 증가했습니다. → 고양이 사진 100만장 가능
        • 데이터 크기를 늘리자 기계가 세상을 인식하기 시작했습니다.
          • 기계가 자동차, 자전거, 보행자 구분 → 자율주행차
    • 새로운 것을 발명하는 것이 아니라 세상을 식별하고 배우는 것입니다.
    • 컨벌루션 알고리즘
      • 패턴을 찾아 이미지를 분석하고, 데이터에서 직접 이미지를 학습하고, 패턴을 사용하여 이미지를 분류하는 데 유용한 알고리즘입니다.
      • 병렬 처리 가능
        • 수백만 개의 데이터 시트에서 학습하려면 엄청난 계산 노력이 필요합니다. → 병렬 처리 없이 학습 불가능
          • Nvidia GPU 병렬 프로세서에 대한 수요가 빠르게 증가하고 있습니다. → 엔비디아 폭풍성장!
    • 세상을 보고 식별하는 능력은 가능한 한 사용되었습니다. → 2022년부터 Nvidia 주식이 떨어지기 시작합니다.
    • 구글에 두뇌 와바니이름이 인도 과학자 Transformer라는 새로운 알고리즘추천하다
      • 트랜스포머는 어텐션(Attention), 보다 구체적으로는 자기 인식(Self-Awareness)이라는 방법을 사용합니다.
        • 핵심은 더 이상 수십억 개의 데이터 조각이 아니라 수십억 또는 수조 개의 데이터 조각을 학습하는 능력입니다.
        • 이 기술의 적용 분야는 자연어 처리(Language Processing)이다.
          • 언어에는 문법과 순서가 있어 처리하기 어렵습니다.
            • 문장이 길수록 첫 번째 단어를 들은 기계는 더 많이 기억해야 합니다.
        • 흥미롭게도 어텐션 알고리즘의 도움으로 문장의 순서가 제외됩니다.
        • 수천억 개의 학습 데이터를 사용하여 인터넷에 있는 모든 문장을 학습합니다.
          • 여기서 학습이란 인터넷의 모든 텍스트에서 단어와 단어, 문장과 문장 사이의 확률 관계를 미리 학습하는 것입니다.
            • 조금 이따 OO를 먹자. 다음과 같이 단어 사이에 확률적 관계가 있습니다. B. 점심을 먹으러 갑니다.
  • 2017년 알고리즘을 제시하고 2018년에는 Open AI라는 회사가 Google에서 개발한 변환기를 사용합니다. GPT라는 방법을 제안
    • GPT
      • 생성: 생성
      • Pretrained: 사전 학습
      • 트랜스포머: 트랜스포머(알고리즘)
    • 입력 값(프롬프트)을 입력하면 생성됩니다.
      • 지난 10년 동안 식별과 차별이 이루어졌다면 2023년부터는 인공지능이 만들어낼 수 있다.
    • 5년 동안 학계에서 논의되어 왔다.
      • GPT1,2,3 모두 문제가 있었다 → 세트가 완벽하지 않았다.
        • 2022년 11월 30일 채팅 GPT가 나왔을 때는 사실 예상하지 못했다. → 써보니 너무 잘되더라구요!
          • Chat GPT는 기존 개방형 AI에서 만든 GPT 알고리즘을 기반으로 합니다. 강화 학습사용!
            • GPT를 사용하여 세트를 만들 때 확률을 기준으로만 세트를 만듭니다.
              확률적으로 가능성이 있는 단어만 나열하면 사람이 읽는 것이 자연스럽지 않습니다. → 강화 학습 시작
            • 강화 학습: GPT가 많은 문장을 만들고 사람에게 판단을 요청합니다.
              • 나이지리아, 파키스탄 같은 곳에서는 저렴한 인건비로 수천 명이 동원돼 문장을 읽고 좋고 나쁨을 판단한다.
                • Human Feedbak에 의한 아름답게 영어 말하기 강화 학습
                  • (인적 피드백을 통한 강화학습)
    • 한 줄 요약
      • Chat GPT는 확률적 언어 맵을 사용한 사람의 피드백 기반 강화 학습입니다.
        • 결과가 너무 좋아요.. 빙에서 실제로 해봤는데 정말 좋았어요.. 대박..
  • 찾는 시대는 끝났다?
    • 구글의 CEO는 Code RED 회사가 1998년에 설립된 후 파산에 직면했다고 말했습니다.
    • 2021년 구글은 이미 트랜스포머와 대화하는 AI를 개발했다. → 람다
      • Lambda는 마침내 x를 공개했습니다.
        • 광고는 Google의 핵심 사업입니다! → 검색의 시대에는 많은 클릭이 필요합니다. (클릭 기반 광고 등장)
        • 채팅 GPT 같은 놈이 답장을 하면 클릭할 필요가 없다(클릭수가 줄어듦 → 광고주가 줄어듦 → 매출이 줄어듦).
        • 발명가의 딜레마…
          • 그들은 자체 기술로 1조 달러 규모의 사업을 운영하고 회사는 그들이 개발한 기술로 비행할 수 있으므로 혜택 X
    • Open AI는 2022년 11월 30일에 Chat GPT를 출시하여 부득이하게 2023년 2월 6일에 출시하게 되었습니다. Bard(람다를 살짝 바꾼 녀석)
      • Chat GPT는 현재 평가에서 바드를 이깁니다!
    • 마이크로소프트
      • 2년전 Open AI에 1조원 투자
      • 계약 조건 중 하나는 Microsoft가 Open AI에서 만든 기술을 사용할 첫 번째 권한을 갖는다는 것입니다.
        • Open AI에서 개발한 알고리즘을 초기에 사용할 수 있습니다.
      • 2023년 2월 7일 새로운 Bing 출시
        • Chat GPT를 기존 검색 엔진에 통합
      • 생산 AI의 계산적 노력이 엄청나다 → 클라우드를 사용해야 한다.
      • 향후 비즈니스에 Microsoft Chat GPT를 사용하려면 Microsoft의 CloudSoft Azure를 사용해야 합니다.
        • 다른 서비스가 로드되지 않도록 방지 → Microsoft Azure는 새로운 플랫폼이 될 수 있습니다.
          • 위험에 처한 Amazon AWS 클라우드 비즈니스.
    • 올해 세상을 바꾸는 위대한 변화가 일어나고 있습니다.
      • 탐색이 무너지기 시작한다
      • 클라우드가 AWS에서 Microsoft로 이동합니까?

참조 : https://www.youtube.com/watch?v=eCKS_etvZyI

빙 채팅 gpt