Lợi nhuận so với nhân tính: Cuộc tranh luận về quản trị doanh nghiệp trong AI

Các công ty khởi nghiệp AI đặt lợi nhuận và nhân tính lên bài cân

Có lẽ chưa từng có doanh nhân nào trong lịch sử lại chắc chắn về tiềm năng làm thay đổi thế giới của công việc họ đang làm như thế hệ những người tiên phong về AI hiện tại. Để trấn an công chúng — và có lẽ cả chính họ — một số nhân vật chủ chốt trong lĩnh vực này đã phát triển các cấu trúc quản trị bất thường được cho là sẽ ngăn cản họ đặt lợi ích thương mại lên trên lợi ích của nhân loại.

Nhưng vẫn chưa rõ liệu các hệ thống này có hiệu quả khi hai ưu tiên đó xung đột hay không. Và những căng thẳng này là khó xử lý, như chúng ta có thể thấy từ những diễn biến gần đây tại OpenAI, công ty khởi nghiệp AI nổi tiếng và được định giá cao nhất thế giới. Đây là một câu chuyện phức tạp, nhưng nó mang lại một cái nhìn quan trọng về cuộc tranh luận về quản trị doanh nghiệp với những hệ lụy to lớn.

OpenAI được thành lập bởi một nhóm bao gồm doanh nhân Sam Altman vào năm 2015 dưới dạng một tổ chức nghiên cứu phi lợi nhuận, được cấp vốn từ các khoản quyên góp của những người như Elon Musk, với sứ mệnh “thúc đẩy trí tuệ kỹ thuật số theo cách mang lại lợi ích lớn nhất cho toàn nhân loại, không bị ràng buộc bởi nhu cầu tạo ra lợi nhuận tài chính”. Nhưng sau vài năm, Altman kết luận rằng sứ mệnh này sẽ đòi hỏi sức mạnh tính toán đắt đỏ hơn so với khả năng được cấp vốn chỉ thông qua hoạt động từ thiện.

Vì vậy, vào năm 2019, OpenAI đã thành lập một doanh nghiệp vì lợi nhuận, với cấu trúc độc đáo. Các nhà đầu tư thương mại — trong đó Microsoft dễ dàng trở thành cổ đông lớn nhất — sẽ bị giới hạn lợi nhuận, lợi nhuận vượt mức giới hạn sẽ chuyển cho tổ chức phi lợi nhuận. Quan trọng là, hội đồng quản trị của tổ chức phi lợi nhuận sẽ giữ quyền kiểm soát công việc của doanh nghiệp vì lợi nhuận, với sứ mệnh tập trung vào nhân loại được ưu tiên hơn lợi nhuận của nhà đầu tư.

“Sẽ là khôn ngoan nếu xem bất kỳ khoản đầu tư nào vào OpenAI Global, LLC theo tinh thần của một khoản quyên góp,” các nhà đầu tư đã được thông báo. Tuy nhiên, Microsoft và các nhà đầu tư khác đã chứng tỏ sự sẵn lòng cung cấp nguồn cấp vốn giúp OpenAI gây chấn động thế giới với việc ra mắt ChatGPT.

Tuy nhiên, gần đây, các nhà đầu tư đã bày tỏ sự không hài lòng với cấu trúc này — đáng chú ý là SoftBank của Nhật Bản, công ty đã thúc đẩy việc tái cấu trúc.

Vào tháng 12, OpenAI đã tìm cách giải quyết những lo ngại này bằng một kế hoạch tái cấu trúc, mặc dù được diễn đạt một cách vô hại, nhưng lại làm suy yếu cấu trúc quản trị mang tính hạn chế đó. Tổ chức phi lợi nhuận sẽ không còn quyền kiểm soát doanh nghiệp vì lợi nhuận nữa. Thay vào đó, nó sẽ có vị trí là một cổ đông có quyền biểu quyết cùng với các nhà đầu tư khác, và sẽ sử dụng khoản thu nhập cuối cùng từ doanh nghiệp để “theo đuổi các sáng kiến từ thiện trong các lĩnh vực như y tế, giáo dục và khoa học”.

Kế hoạch này đã gây ra một bức thư ngỏ mang tính chỉ trích gay gắt từ nhiều nhân vật lỗi lạc trong giới AI, thúc giục các quan chức chính phủ hành động đối với điều mà họ cho là vi phạm các giới hạn pháp lý do OpenAI tự đặt ra. Điều quan trọng, họ lưu ý, kế hoạch tháng 12 sẽ loại bỏ “nghĩa vụ có thể thực thi đối với công chúng” để đảm bảo AI mang lại lợi ích cho nhân loại, điều vốn đã được tích hợp vào cấu trúc pháp lý của tổ chức ngay từ đầu.

Tuần này, OpenAI đã công bố một kế hoạch sửa đổi giải quyết nhiều lo ngại của những người chỉ trích. Sự nhượng bộ chủ chốt nằm ở quyền lực của hội đồng quản trị phi lợi nhuận, nơi sẽ duy trì quyền kiểm soát chung đối với doanh nghiệp vì lợi nhuận. Tuy nhiên, OpenAI có kế hoạch tiếp tục tiến hành loại bỏ giới hạn lợi nhuận đối với các nhà đầu tư thương mại của mình.

Vẫn còn phải xem liệu sự thỏa hiệp này có đủ để làm hài lòng các nhà đầu tư như Microsoft và SoftBank hay không. Dù sao đi nữa, OpenAI có thể hợp lý khi tuyên bố đã duy trì những giới hạn chặt chẽ hơn nhiều đối với công việc của mình so với đối thủ chính DeepMind. Khi công ty có trụ sở tại London được mua lại bởi Google vào năm 2014, những người sáng lập của nó đã nhận được lời hứa rằng công việc của họ sẽ được giám sát bởi một hội đồng đạo đức độc lập về mặt pháp lý, như Parmy Olson kể lại trong cuốn sách Supremacy của bà. Nhưng kế hoạch đó đã sớm bị hủy bỏ. “Tôi nghĩ có lẽ chúng tôi đã có những quan điểm hơi quá lý tưởng,” Demis Hassabis, đồng sáng lập DeepMind, nói với Olson.

Một số chủ nghĩa lý tưởng ban đầu vẫn còn được tìm thấy tại Anthropic, một công ty khởi nghiệp được thành lập vào năm 2021 bởi các nhân viên của OpenAI, những người vốn đã lo ngại về sự đi chệch hướng của tổ chức này so với sứ mệnh ban đầu. Anthropic đã thành lập một “Quỹ Tín thác Lợi ích Dài hạn” độc lập gồm năm người với nhiệm vụ thúc đẩy lợi ích của toàn nhân loại. Trong vòng bốn năm, quỹ tín thác này sẽ có quyền bổ nhiệm đa số thành viên hội đồng quản trị của Anthropic.

Anthropic được cấu trúc dưới dạng một công ty vì lợi ích cộng đồng (public benefit corporation - PBC), nghĩa là các giám đốc của nó có nghĩa vụ pháp lý phải xem xét lợi ích của xã hội cũng như cổ đông. xAI của Musk cũng là một PBC, và doanh nghiệp vì lợi nhuận của OpenAI sẽ trở thành một doanh nghiệp như vậy theo kế hoạch tái cấu trúc được đề xuất.

Tuy nhiên, trên thực tế, cấu trúc PBC không áp đặt nhiều giới hạn. Chỉ những cổ đông quan trọng — chứ không phải thành viên của công chúng nói chung — mới có thể kiện các công ty như vậy vì vi phạm nghĩa vụ ủy thác của họ đối với xã hội rộng lớn hơn.

Và trong khi việc bảo toàn quyền kiểm soát của tổ chức phi lợi nhuận tại OpenAI có vẻ giống như một chiến thắng lớn cho những người ủng hộ an toàn AI, điều đáng nhớ là những gì đã xảy ra vào tháng 11 năm 2023. Sau khi hội đồng quản trị sa thải Altman vì những lo ngại về việc ông không tuân thủ các nguyên tắc hướng dẫn của OpenAI, nó đã đối mặt với cuộc nổi dậy của nhân viên và nhà đầu tư, kết thúc bằng sự trở lại của Altman và sự ra đi của hầu hết các giám đốc.

Nói tóm lại, quyền lực của hội đồng quản trị phi lợi nhuận, với nghĩa vụ đối với nhân loại, đã được thử nghiệm — và cho thấy là họ gần như chẳng có quyền gì.

Hai trong số các giám đốc đã rời OpenAI cảnh báo trong một bài viết trên Economist năm ngoái rằng các giới hạn do các công ty khởi nghiệp AI tự đặt ra “không thể chống lại của các động lực lợi nhuận”.

“Để sự phát triển của AI mang lại lợi ích cho tất cả mọi người, các chính phủ phải bắt đầu xây dựng các Khung pháp lý hiệu quả ngay từ bây giờ,” Helen Toner và Tasha McCauley viết.

EU đã có một khởi đầu mạnh mẽ trên mặt trận đó với Đạo luật AI mang tính bước ngoặt của mình. Tuy nhiên, tại Mỹ, các nhân vật công nghệ như Marc Andreessen đã đạt được những tiến bộ đáng kể với chiến dịch chống lại quy định về AI, và chính quyền Trump đã cho thấy ít quan tâm đến việc kiểm soát chặt chẽ.

Cơ sở cho việc điều chỉnh được củng cố bởi bằng chứng ngày càng tăng về tiềm năng của AI trong việc làm trầm trọng thêm bất bình đẳng về chủng tộc và giới tính trong thị trường lao động và hơn thế nữa. Những rủi ro dài hạn do AI ngày càng mạnh mẽ gây ra có thể còn nghiêm trọng hơn nữa. Nhiều nhân vật hàng đầu trong lĩnh vực này — bao gồm Altman và Hassabis — đã ký một tuyên bố vào năm 2023 cảnh báo rằng “giảm thiểu rủi ro tuyệt chủng từ AI nên là một ưu tiên toàn cầu”.

Nếu các lãnh đạo AI ảo tưởng về sức mạnh phát minh của họ, có lẽ không cần phải lo lắng. Nhưng khi đầu tư vào lĩnh vực này tiếp tục bùng nổ, đó sẽ là một giả định liều lĩnh.