Perplexity Tinh Chỉnh Một Mô Hình AI Trung Quốc Để Đối Chiếu Với Claude Opus 4.8 Với Chi Phí Chỉ Bằng Một Phần Ba

Perplexity đã biến một mô hình mã nguồn mở của Trung Quốc thành một công cụ gần như tiên tiến với chi phí chỉ khoảng một phần ba so với Claude Opus 4.8.

Công ty đã phát hành một bản xem trước nghiên cứu hôm nay về phiên bản đã được tinh chỉnh của GLM 5.2 từ Z.AI, được xây dựng đặc biệt để hoạt động trong bộ công cụ Computer agent của mình và hiện đã có sẵn trong sản xuất.

GLM 5.2 là một mô hình khoảng 744 tỷ tham số từ Z.ai---trước đây là Zhipu AI, một phòng thí nghiệm ở Bắc Kinh đã nằm trong Danh sách Thực thể của Mỹ kể từ tháng 1 năm 2025. (Các tham số là tất cả các nút và cấu hình khác nhau mà một mô hình có thể xử lý trong quá trình đào tạo. Càng nhiều tham số, mô hình càng phức tạp và mạnh mẽ.) Được phát hành dưới giấy phép MIT vào tháng 6, nó nằm trong số các mô hình AI hàng đầu hiện có trên các tiêu chuẩn lập trình dài hạn với chi phí API chỉ một phần nhỏ.

Các trọng số mở có nghĩa là bất kỳ ai cũng có thể tải xuống, sửa đổi và tinh chỉnh nó cho mục đích thương mại mà không có hạn chế. Perplexity đã làm chính xác điều đó.

Tinh chỉnh thực sự là gì

Tinh chỉnh là quá trình lấy một mô hình AI đã được đào tạo và đào tạo lại nó trên một tập dữ liệu nhỏ hơn, tập trung hơn để làm cho nó tốt hơn trong một công việc cụ thể.

Perplexity đã sử dụng tinh chỉnh sau đào tạo---một quy trình tương tự được áp dụng sau khi chạy đào tạo chính của mô hình---để dạy GLM 5.2 một kỹ năng quan trọng: biết khi nào nên tự xử lý một nhiệm vụ và khi nào nên chuyển giao cho một cái gì đó mạnh mẽ hơn.

Điều này giúp tiết kiệm rất nhiều tiền trong việc suy diễn.

Perplexity đã đánh giá hệ thống so với GLM 5.2 thông thường để thiết lập một cơ sở chi phí. Sử dụng chỉ số hiệu quả nội bộ của công ty đo lường chi phí hoàn thành các nhiệm vụ phức tạp, kết quả cho thấy mô hình đã được tinh chỉnh với một cố vấn có chi phí chạy khoảng gấp đôi so với phiên bản cơ bản. Tuy nhiên, việc sử dụng mô hình Opus 4.8 hàng đầu cho mọi thứ thì tốn kém hơn nhiều (khoảng 600% đắt hơn).

Bằng cách kết hợp những công cụ này, hệ thống của Perplexity đạt được hiệu suất chất lượng tương tự như Opus nhưng chỉ với chi phí khoảng một phần ba.

Tại sao lại là một mô hình Trung Quốc---và tại sao mã nguồn mở làm cho điều này khả thi

Cuộc đua AI giữa Mỹ và Trung Quốc thường được coi là một trò chơi tổng bằng không. Trong thực tế, các mô hình mã nguồn mở không dừng lại ở biên giới. Giấy phép MIT của GLM 5.2 làm cho phép tính trở nên đơn giản: Không có hợp đồng API nào để vi phạm, không có công tắc truy cập nào mà một chính phủ có thể chuyển đổi. Bạn tải xuống các trọng số và bạn có thể tinh chỉnh chúng thành bất cứ điều gì bạn cần.

Perplexity đã đi con đường này trước đây. Khi DeepSeek R1 quét qua thế giới AI vào đầu năm 2025, công ty đã tinh chỉnh nó thành R1-1776---lập bản đồ khoảng 300 chủ đề mà phiên bản gốc từ chối thảo luận do kiểm duyệt của chính phủ Trung Quốc, và đào tạo lại mô hình để làm cho nó thiên lệch hơn về phía Hoa Kỳ. Nó trở thành một phiên bản lý luận cùng lý do được lưu trữ ở phương Tây.

Vì vậy, động thái GLM 5.2 này theo cùng một mẫu, ngoại trừ mục tiêu lần này không phải là chính trị mà là kinh tế. Sản phẩm Computer của Perplexity đã điều phối hơn 19 mô hình AI; GLM đã được tinh chỉnh được thiết kế để trở thành mặc định rẻ tiền hấp thụ phần lớn các nhiệm vụ trước khi chạm vào một mô hình tiên tiến.

Srinivas cho biết luận điểm dài hạn là đơn giản: tinh chỉnh các mô hình mã nguồn mở để trở nên giỏi trong việc chuyển giao, bên trong một bộ công cụ đã phục vụ hàng triệu người dùng. Perplexity "được định vị một cách độc đáo" để giải quyết điều này, ông viết, vì cơ sở hạ tầng đã được triển khai ở quy mô lớn.

Mô hình chạy trên GPU Nvidia B200 ở Hoa Kỳ. Tiếp theo là: một tinh chỉnh sau của Nemotron 3 Ultra, sẽ sao chép cùng một kiến trúc sử dụng một mô hình mã nguồn mở của Mỹ.

Các tiêu chuẩn đầy đủ và một bài báo nghiên cứu dự kiến sẽ được công bố trong những tuần tới. Mô hình hiện có sẵn dưới dạng bản xem trước nghiên cứu.