Go Gradually - Repository

  • CS
  • PS
  • Backend
  • 개발
  • GitHub
  • 홈

self-attention 1

[밑바닥부터 시작하는 딥러닝] 어텐션 메커니즘

본 내용은 밑바닥부터 시작하는 딥러닝 2도서를 참고하여 작성되었습니다. 밑바닥부터 시작하는 딥러닝 2 - 예스24직접 구현하면서 배우는 본격 딥러닝 입문서 이번에는 순환 신경망과 자연어 처리다! 이 책은 『밑바닥부터 시작하는 딥러닝』에서 다루지 못했던 순환 신경망(RNN)을 자연어 처리와 시계열 데www.yes24.com 드디어, 어텐션이다.현재의 AI 시대를 만든 트랜스포머에 발을 담가볼 수 있게 되었다.그 근간에 있는 어텐션에 대한 학습을 시작해보자.어텐션의 구조어텐션 매커니즘은 seq2seq를 필요한 정보에만 '주목'시킨다.그럼 먼저 seq2seq의 현재 문제점을 살펴보고, 이를 개선한 어텐션 매커니즘을 이해해보자.seq2seq의 문제점seq2seq는 Encoder가 시계열 데이터를 인코딩한다.그..

AI Repository/기초 딥러닝 2025.08.22
이전
1
다음
더보기
프로필사진

Go Gradually - Repository

꾸준함은 모든 것을 이긴다.

  • 분류 전체보기 (215) N
    • Article - 깊게 탐구하기 (38)
      • 도메인 주도 설계 이해하기 (9)
      • 트랜잭션 완전정복 (2)
      • 모-던한 프로그래밍 (2)
      • OS - Deep Dive (6)
      • Network - Deep Dive (4)
      • 개발 꿀팁 (7)
      • 피드 한 줌 (1)
      • 개인 프로젝트 (3)
      • OpenAI Gym (2)
    • CS Repository (92)
      • 소프트웨어 공학 - Clean Code & Arc.. (4)
      • 객체지향 & Design Pattern + @ (1)
      • 운영체제 - Dinosaur Book + @ (1)
      • DB (2)
      • 네트워크 - Top-down Approach + .. (26)
      • 데이터 중심 애플리케이션 설계 (1)
      • 리팩터링 (4)
      • 엔터프라이즈 애플리케이션 아키텍처 패턴 (3)
      • HTTP 완벽 가이드 (8)
      • 프로그래밍 패러다임 (3)
    • AI Repository (0)
      • 기초 통계학 (10)
      • 기초 딥러닝 (12)
      • 기초 강화학습 (16)
      • DRL (0)
    • WEB BE Repository (31)
      • JAVA (5)
      • Spring (5)
      • JPA (1)
      • AWS (5)
      • 배포 및 운영 (3)
      • 주니어 백엔드 개발자가 반드시 알아야 할 실무 지.. (0)
      • Redis (1)
      • Spring Security (3)
      • RabbitMQ (7)
    • WEB FE Repository (5) N
      • React (5) N
    • PS (25) N
      • 이론 (1)
      • USACO Silver (1)
      • USACO Gold (4)
      • LeetCode (8) N
      • Baekjoon OJ (4)
      • Codeforces (7)
    • 주간 회고 - 체크리스트 (8) N
    • 개인적 공간 (16)
      • 방광암 치료 (2)

Tag

최적 정책, rabbitmq, Python, 오블완, spring jdbctemplate, Pub-Sub, 상태 가치 함수, DQN, PS, 마틴 파울러, 리팩터링, 생산자-소비자, settings.gradle, 티스토리챌린지, 도메인 이벤트, producer-consumer, DP, math, Greedy, LeetCode,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

  • GoGradually 의 Repository 입니다.

Archives

Calendar

«   2025/09   »
일 월 화 수 목 금 토
1 2 3 4 5 6
7 8 9 10 11 12 13
14 15 16 17 18 19 20
21 22 23 24 25 26 27
28 29 30

방문자수Total

  • Today :
  • Yesterday :

Copyright © Kakao Corp. All rights reserved.

  • GitHub

티스토리툴바