제 실력이 미흡해서 그런지 푸는데 엄청 오래 걸렸습니다...

포기 하지 않고 끝까지 풀어서 정답을 맞추게 된것 같습니다.

문제가 생각 보다 어려운것 같습니다 ㅠㅠ

function solution(arr) {
        let answer = [];
        let mento = [];
        const maxNum = [];
        for (let i = 0; i < arr.length; i++) {
          for (let j = 0; j < arr[i].length; j++) {
            const index = arr[i].indexOf(arr[0][j]);
            for (let k = 0; k < index; k++) {
              maxNum.push([arr[0][j], arr[i][k]]);
            }
            for (let z = 0; z < arr[i].length; z++) {
              if (j < z) {
                mento.push([arr[i][j], arr[i][z]]);
              }
            }
          }
        }

        for (p = 0; p < maxNum.length; p++) {
          mento = mento.filter(
            (t) => !(maxNum[p][0] === t[0] && maxNum[p][1] === t[1])
          );
        }

        answer = new Set(mento.map((v) => v.join("")));

        return [...answer].length;
      }

      const question = [
        [3, 4, 1, 2],
        [4, 3, 2, 1],
        [3, 1, 4, 2],
      ];

      console.log(solution(question));

좋은 코드는 아닌것 같지만, 최대한 노력을 했습니다

const question = [
        [3, 4, 1, 2],
        [4, 3, 2, 1],
        [3, 1, 4, 2],
      ];

console.log(solution(question));

let arr = [[1, 2, 3, 4, 5]];
console.log(solution(arr));
let arr2 = [
        [19, 15, 4, 17, 12, 18, 6, 3, 11, 14, 1, 8, 13, 9, 2, 20, 5, 16, 10, 7],
        [5, 20, 18, 17, 14, 11, 19, 3, 10, 16, 6, 8, 13, 9, 2, 12, 4, 7, 1, 15],
 ];
console.log(solution(arr2));

다른 답들도 다 정답은 나옵니다.