Pointwise Multiplication이란?

 

딥러닝이나 이미지 처리 분야를 공부하다 보면 Pointwise Multiplication이라는 용어를 자주 만나게 됩니다. 처음 들으면 이름이 조금 어렵게 느껴지지만, 사실 매우 단순한 개념입니다. 이번 글에서는 포인트와이즈 곱이 무엇인지, 왜 필요한지, 그리고 어디에 활용되는지를 쉽게 설명해보겠습니다.

 

---

 

Pointwise Multiplication이란?

Pointwise multiplication(포인트와이즈 곱)은 같은 크기의 두 텐서를 각 위치별로(=pointwise) 곱하는 연산입니다.

즉, 두 배열의 같은 인덱스끼리 1:1로 곱해서 새로운 배열을 만드는 것이죠.

 

---

 

예제로 바로 이해하기

 

✔️ 1. 벡터끼리의 pointwise 곱

예를 들어 다음과 같은 두 벡터가 있을 때:


A = [2, 3, 4] B = [5, 6, 7]
Pointwise multiplication은 각 자리의 원소를 곱하는 방식입니다:


A ⊙ B = [2*5, 3*6, 4*7] = [10, 18, 28]

---

✔️ 2. 이미지 + 마스크에 활용
이미지를 처리할 때 많이 쓰이는 방식입니다.


이미지 I = 10 20 30 40 마스크 M = 1 0 0 1
Pointwise multiplication을 하면:


I ⊙ M = 10*1 20*0 30*0 40*1 = 10 0 0 40
→ 마스크가 0인 부분은 어둡게 가리고,
→ 1인 부분만 그대로 남는 효과!

컴퓨터 비전에서 매우 자주 등장합니다.

---

 

딥러닝에서는 어디에 쓰일까?

Pointwise multiplication은 특히 Attention 메커니즘에서 핵심적으로 사용됩니다.

예를 들어,

• softmax(q⋅kT)softmax(q \cdot k^T)softmax(q⋅kT) 결과와
• 값 벡터 vvv

이 둘을 각 토큰마다 pointwise 곱한 후 더해서 최종 attention 값을 만듭니다. 즉, “가중치 × 정보” 구조에서 가중치를 적용할 때 pointwise 곱이 쓰입니다. 그 외에도 CNN, activation gating(예: GLU), element-wise 연산 등 다양한 구조에서 활용됩니다.

 

---

비유로 쉽게 이해해보기

같은 크기의 빵 반죽 두 개가 있다고 해봅시다.

• 첫 번째 반죽의 (0,0)은 ‘초콜릿’
• 두 번째 반죽의 (0,0)은 ‘설탕’

이 둘을 섞을 때, 반죽 전체를 한 번에 섞는 것이 아니라 각 위치(포인트)마다 1:1로 섞는 것이 포인트와이즈 곱입니다.

---

한 줄 요약

 

Pointwise multiplication은 배열의 같은 위치끼리 1:1로 곱하는 연산이다.

 

 

 

단순하지만 딥러닝과 이미지 처리에서 매우 중요한 기본 연산입니다.