inflearn logo
강의

Khóa học

Chia sẻ kiến thức

Tam giác đang hoạt động! Người mới bắt đầu OpenAI Triton

코드가 실행되는 순서에 관하여

Đã giải quyết

401

tritonman

4 câu hỏi đã được viết

0

@triton.jit
def add_kernel(x_ptr, y_ptr, z_ptr, size, block_size: tl.constexpr):
    (...)

def add(x, y):
    z = (...)
    size = (...)

    def grid(meta):
        return (triton.cdiv(size, meta["block_size"]),)

    add_kernel[grid](x, y, z, size, 1024)

    return z

 

안녕하세요 vector_add.py를 보던 중, 코드 라인이 실행되는 순서가 궁금하여 질문남깁니다

 

수업에서 runtime 때 meta가 받아진다고 말씀해주셨는데요.

그렇다면 코드가 실행되는 순서가

  1. runtime 동안 add_kernel의 argument로 들어온 x, y, z, size, 1024가 meta로 받아지고

  2. meta를 이용해 grid가 (n, )의 형태로 set되고

  3. 그 이후 add_kernel이 실행된다

가 맞을까요?

 

또 하나 궁금한 것은 아래 라인이 실행될 때 @triton.jit 데코레이터의 역할인데요

add_kernel[grid](x, y, z, size, 1024)
  1. (x, y, z, size, 1024)를 meta로 받아준다

  2. 그 meta가 적용된 특정 grid 설정 위에서 add_kernel 함수가 실행될 수 있게 해준다

일까요?

 

파이썬에서 원래 함수는 subscriptable하지 않아, 위 syntax가 생소해서 질문드립니다

python 딥러닝 cnn gpgpu dropout openai argmax relu triton kernel-programming

Câu trả lời 1

1

triangle

안녕하세요?

 

네 맞습니다! 알고 계신 순서로 실행이 됩니다. 그리고 triton.jit 데코레이터의 역할은 해당 함수를 Triton 커널로 정의하는 것입니다. triton.jit 데코레이터를 명시한 함수는 실행전에 컴파일 과정을 거치게 됩니다.

 

감사합니다.

인코딩을 다 꼭 해봐야하는지

0

2

1

LLM 시대에서 머신러닝 개념 이해 필요성 문의

0

5

0

25-2 분기커버리지

0

12

0

25-2 이론 재탕

0

17

1

25-1 이론 재탕

0

15

1

강의 잘보고 있습니다. 강의 파일을 어디서 찾아야 되는지 몰라서 여쭤 봅니다.

0

13

1

서브넷 마스크

0

24

1

모의고사 1회 계산문제 2개 맞았는데

0

38

2

기존 미국주식 자동매매 프로그램과 같은 AWS 서버에서 돌리려고 할때

1

29

1

안녕하세요? 강사님 질문있습니다.(인코딩관련)

0

47

2

강의자료 문의

0

39

1

업캐스팅 문제 예시 4번 부모 호출

0

39

1

강의자료 링크 열리지 않음.

0

39

2

이진분류에서 양성 클래스가 0일 때 평가 방법

0

41

2

모의고사 자료 해설이 너무 불친절하네요.

0

82

2

autotune은 아직 안 올라온 건가요?

0

97

1

강의만 봐서는 triton 커널이 pytorch에 비해 빨라 보이지 않네요..

0

267

2

block ptr 질문

0

121

2

디스코드 커뮤

0

146

1

앞으로의 강의 계획에 대하여

0

296

2

실행을 위한 최적 환경

1

878

1

강의 계획에 대하여

0

367

1

행렬곱 오차 문제

1

464

2

실습 코드

0

407

1