강의

멘토링

커뮤니티

Cộng đồng Hỏi & Đáp của Inflearn

Hình ảnh hồ sơ của mjbooo6026
mjbooo6026

câu hỏi đã được viết

Tam giác đang hoạt động! Người mới bắt đầu OpenAI Triton

코드가 실행되는 순서에 관하여

Đã giải quyết

Viết

·

360

0

@triton.jit
def add_kernel(x_ptr, y_ptr, z_ptr, size, block_size: tl.constexpr):
    (...)

def add(x, y):
    z = (...)
    size = (...)

    def grid(meta):
        return (triton.cdiv(size, meta["block_size"]),)

    add_kernel[grid](x, y, z, size, 1024)

    return z

 

안녕하세요 vector_add.py를 보던 중, 코드 라인이 실행되는 순서가 궁금하여 질문남깁니다

 

수업에서 runtime 때 meta가 받아진다고 말씀해주셨는데요.

그렇다면 코드가 실행되는 순서가

  1. runtime 동안 add_kernel의 argument로 들어온 x, y, z, size, 1024가 meta로 받아지고

  2. meta를 이용해 grid가 (n, )의 형태로 set되고

  3. 그 이후 add_kernel이 실행된다

가 맞을까요?

 

또 하나 궁금한 것은 아래 라인이 실행될 때 @triton.jit 데코레이터의 역할인데요

add_kernel[grid](x, y, z, size, 1024)
  1. (x, y, z, size, 1024)를 meta로 받아준다

  2. 그 meta가 적용된 특정 grid 설정 위에서 add_kernel 함수가 실행될 수 있게 해준다

일까요?

 

파이썬에서 원래 함수는 subscriptable하지 않아, 위 syntax가 생소해서 질문드립니다

python딥러닝cnngpgpudropoutopenaiargmaxrelutritonkernel-programming

Câu trả lời 1

1

triangle님의 프로필 이미지
triangle
Người chia sẻ kiến thức

안녕하세요?

 

네 맞습니다! 알고 계신 순서로 실행이 됩니다. 그리고 triton.jit 데코레이터의 역할은 해당 함수를 Triton 커널로 정의하는 것입니다. triton.jit 데코레이터를 명시한 함수는 실행전에 컴파일 과정을 거치게 됩니다.

 

감사합니다.

Hình ảnh hồ sơ của mjbooo6026
mjbooo6026

câu hỏi đã được viết

Đặt câu hỏi