Go Gradually - Repository

  • CS
  • PS
  • Backend
  • 개발
  • GitHub
  • 홈

2025/08/16 1

MatMul 노드(행렬곱)의 역전파

MatMul 노드의 역전파는 그 결과를 보면 다소 비직관적이다.따라서 이 MatMul의 역전파에 대해 좀 더 자세히 알아보자. 일단 MatMul 노드의 계산 그래프부터 확인해보자.현재 우리에게 주어진 식은 아래와 같다.x = 1xD 행렬W = DxH 행렬y = 1xH 행렬그리고, L에 대하여 x의 i번째 원소에 대한 편미분은 다음과 같이 구한다.우리는 근데 y와 x 사이의 관계를 이미 알고있다.따라서 위 식은 이렇게 치환이 가능하다.위 식에 의하여, L에 대하여 x의 i번째 원소에 대한 편미분의 경우 행렬곱을 이용해서 구해짐을 알 수 있게 된다.그럼 이제 L에 대하여 가중치 W에 대한 편미분을 구할 차례이다.이번엔 미니 배치 처리를 고려해 x에는 N개의 데이터가 담겨 있다고 가정해보자.이를 계산 그래프로..

CS Repository/기초 딥러닝 2025.08.16
이전
1
다음
더보기
프로필사진

Go Gradually - Repository

  • 분류 전체보기 (155) N
    • Article - 깊게 탐구하기 (36)
      • 도메인 주도 설계 이해하기 (9)
      • 트랜잭션 완전정복 (2)
      • 모-던한 프로그래밍 (2)
      • OS - Deep Dive (6)
      • Network - Deep Dive (4)
      • 개발 꿀팁 (7)
      • 피드 한 줌 (1)
      • 티켓박스 (0)
      • 개인 프로젝트 (3)
    • CS Repository (66) N
      • 소프트웨어 공학 - Clean Code & Arc.. (4)
      • 객체지향 & Design Pattern + @ (1)
      • 운영체제 - Dinosaur Book + @ (1)
      • DB (2)
      • 네트워크 - Top-down Approach + .. (26)
      • 데이터 중심 애플리케이션 설계 (1)
      • HTTP 완벽 가이드 (8)
      • 엔터프라이즈 애플리케이션 아키텍처 패턴 (0)
      • 프로그래밍 패러다임 (3)
      • 기초 통계학 (10)
      • 기초 딥러닝 (9) N
    • WEB BE Repository (24)
      • JAVA (5)
      • Spring (5)
      • JPA (1)
      • AWS (5)
      • 배포 및 운영 (3)
      • 주니어 백엔드 개발자가 반드시 알아야 할 실무 지.. (0)
      • Redis (1)
      • Spring Security (3)
    • PS (12)
      • 이론 (1)
      • Baekjoon OJ (4)
      • Codeforces (7)
    • KPT (4)
    • 개인적 공간 (13)

Tag

Gradle, 도메인 이벤트, 가능도, 메모리 압축, PS, math, 멀티모듈, 오블완, Greedy, 티스토리챌린지, 손실 함수, settings.gradle, 경사 하강법, 퍼셉트론, build.gradle, 메모리 풀, 시그모이드 함수, 외부 단편화, spring jdbctemplate, 역전파,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

  • GoGradually 의 Repository 입니다.

Archives

Calendar

«   2025/08   »
일 월 화 수 목 금 토
1 2
3 4 5 6 7 8 9
10 11 12 13 14 15 16
17 18 19 20 21 22 23
24 25 26 27 28 29 30
31

방문자수Total

  • Today :
  • Yesterday :

Copyright © Kakao Corp. All rights reserved.

  • GitHub
  • 피드 한 줌

티스토리툴바