A/B 테스트 period calculation

Question

안녕하세요 좋은 강의 감사드립니다! a/b test 에서 minimum sample 사이즈를 구한 뒤 period calculation 단계에서 질문 있어서 문의드립니다. 강의 듣던 중에 다른 a/b 테스트 유튜브 강의를 보게 되었는데요. 제가 이강의에서 배운바로는 예를들어 minimum sample size가 5,000명이고 1) daily user: 300명 2) required days는 약 17.7일이 될거구요 3) # of test group은 A,B 2그룹이라고 할때 최소 period는 17.7 * 2개그룹 = 35.5일로 계산하는 걸로 이해했는데요. 해당 유튜브 강의에서는 A, B그룹의 테스트가 동시에 진행하는 것을 추천한다고 하더라구요. 이 경우는 35.5일이 아닌 A, B그룹 동시에 진행하니 17.7일이 될수 있는건가요? 상황에 따라 다른건지 어떤게 맞는건지 해깔리네요.. 문의드립니다.

거친코딩 · Answer

안녕하세요. 제가 질문을 정확히 이해하였는지는 잘 모르겠습니다만, minimum sample size 수는 각 그룹별로 충족해주어야 하는 샘플 수이기 때문에, daily user 가 300인 상황에서 35.5일을 채워야하는게 맞습니다. 그리고 300을 2(그룹수)로 나눠서 a , b 그룹 동시에 daily로 150, 150채우면서 35.5일까지 실험을 진행하게 됩니다.