전체 글51 [구글 AI & 제미나이 진화 연대기 2편] 네이티브 멀티모달, 초거대 컨텍스트, 그리고 구글 TPU의 비밀 (부제: 텍스트 모델을 넘어 인간처럼 보고 들으며 기억하는 구글만의 풀스택(Full-Stack) AI 아키텍처) 제목: [구글 AI & 제미나이 진화 연대기 2편] 네이티브 멀티모달, 초거대 컨텍스트, 그리고 구글 TPU의 비밀(부제: 텍스트 모델을 넘어 인간처럼 보고 들으며 기억하는 구글만의 풀스택(Full-Stack) AI 아키텍처)글쓴이: Gemini 테크 보좌관 (Edited by neo-Lee)지난 1편에서 우리는 구글이 구글 브레인과 딥마인드를 전격 통합하며 백지상태에서 제미나이(Gemini)를 설계한 배경을 살펴보았습니다. 그렇다면 제미나이가 다른 최첨단 AI 모델들과 근본적으로 다른 공학적 우위를 확보하게 된 진짜 비결은 무엇일까요?단순히 텍스트 전용 챗봇에 눈과 귀를 뒤늦게 이어 붙인 것이 아니라, 설계 첫날부터 완전히 다른 철학으로 구축된 세 가지 핵심 기술 기둥—① 태생적 멀티모달(Native .. 2026. 11. 11. [구글 AI & 제미나이 진화 연대기 1편] 원천 기술의 산실에서 바드(Bard)를 넘어 네이티브 멀티모달 제미나이 시대로 (부제: 현대 인공지능의 뼈대를 세운 구글의 유산과 AI 패권 탈환의 드라마) 제목: [구글 AI & 제미나이 진화 연대기 1편] 원천 기술의 산실에서 바드(Bard)를 넘어 네이티브 멀티모달 제미나이 시대로(부제: 현대 인공지능의 뼈대를 세운 구글의 유산과 AI 패권 탈환의 드라마)글쓴이: Gemini 테크 보좌관 (Edited by neo-Lee)오늘날 전 세계를 뒤흔들고 있는 생성형 인공지능(Generative AI)의 지형도를 제대로 이해하려면, 한 가지 놀라운 역사적 역설을 먼저 마주해야 합니다. 현재 우리가 사용하는 거의 모든 최첨단 AI의 원천 기술이 바로 '구글(Google)'의 연구실에서 탄생했다는 사실입니다.그러나 2022년 말 대화형 AI 열풍이 전 세계 대중을 사로잡았을 때, 역설적으로 구글은 한발 늦은 추격자의 입장에서 출발해야 했습니다. 총 3부작으로 기획.. 2026. 11. 11. ChatGPT의 자연어 처리(NLP) - 인코딩 프로세스(Encoding Process)와 토큰화(Tokenization) 과정 ChatGPT에 사용되는 모델은 Word2Vec과 다른 트랜스포머 아키텍처(Transformer Architecture)를 기반으로 합니다. 입력된 문장은 먼저 토큰화 과정을 거칩니다. 토큰화 과정을 거친 입력 문장은 변환기(transformer) 모델, 특히 GPT-3.5 아키텍처를 통해 처리된다고 합니다. 먼저 ChatGPT의 인코딩 프로세스에 대해 알아보고, 토큰화(Tokenization) 과정을 살펴보겠습니다. 1. ChatGPT의 인코딩 프로세스 개요 1) 토큰화(Tokenization) 입력 문장이나 텍스트를 토큰화하여 토큰(Token)이라는 더 작은 단위로 나눕니다. 이러한 토큰은 사용된 특정 토큰화 설계 방식에 따라 단어, 하위 단어 또는 문자를 나타낼 수 있습니다. 2) 위치 인코딩(Po.. 2023. 7. 10. 자연어처리(NLP) 알고리즘 - Word2Vec vs Transformer 모델 Word2Vec은 인공 신경망을 사용하여 단어의 의미를 학습하는 기계학습 알고리즘입니다. Word2Vec은 단어의 빈도를 분석하여 단어의 의미를 학습하는 방법인 통계적 기법과는 달리 단어의 주변 단어를 분석하여 단어의 의미를 학습합니다. 단어의 의미를 파악하는 학습 방식에는 2가지 방법이 있습니다. 첫 번째 방식은 Skip-gram 방식입니다. Skip-gram 방식은 특정 단어(target word)를 기준으로 그 단어 주위에 있는 단어를 예측하는 방식입니다. 예를 들어, "집"이라는 단어를 기준으로 "사람", "마당", "주소"와 같은 단어를 예측합니다. 두 번째 방식은 CBOW(Continuous Bag of Words) 방식입니다. CBOW 방식은 특정 단어 주위에 있는 단어를 기준으로 그 단어(.. 2023. 7. 6. ChatGPT의 핵심 기술 - 트랜스포머(Transformer) 1. 트랜스포머란? 트랜스포머(Transformer)는 셀프 어텐션(self-attention) 기법을 사용하여 학습 속도를 빠르게 하고 메모리 문제를 해결한 인코더-디코더(encoder-decoder) 모델로서 2017년 구글 브레인(Google Brain) 팀의 연구원들이 공개한 논문 에서 제안되었습니다. 트랜스포머(Transformer)는 인공지능 분야에서 사용되는 딥러닝 모델로 자연어 처리(NLP, Natural Language Processing) 분야에서 혁신적인 성과를 이루었습니다. 이 모델은 RNN(순환 신경망)을 사용하지 않고 인코더-디코더 구조를 설계했음에도 성능이 RNN보다 우수하다고 평가됩니다. OpenAI사의 ChatGPT(Generative Pre-trained Transform.. 2023. 7. 5. ChatGPT 자세히 알아보기 오늘은 최근에 가장 많은 관심을 받고 있는 생성형 인공지능의 대표 모델인 ChatGPT에 대해 알아보고자 합니다. '대화 목적으로 개발한 언어 기반 생성형 인공지능 모델'인 GPT-3 기반 ChatGPT는 2022년 11월 30일 OpenAI에서 공개한 이후 선풍적인 인기를 끌며 수많은 가입자를 확보하였으나 실제 사용에 있어 많은 유해 정보 및 가짜 정보로 응답하는 경우가 많아 여러 가지 우려를 낳기도 했습니다. GPT-3 이후 OpenAI사는 2021년 9월까지 온라인상에 축적된 방대한 규모의 데이터를 기반으로 사전 학습된 대규모 GPT-4를 2023년 3월 공개하였습니다. GPT-4는 앞선 GPT-3 또는 GPT-3.5에 비교하여 추론 기능과 요약 성능, 언어 지원 능력이 크게 개선되었고, 유해 정보.. 2023. 7. 3. 이전 1 2 3 4 ··· 9 다음 728x90
