HỘI ĐỒNG BIÊN TẬP

Cổng Thông tin khoa học công nghệ Nghệ An


BẢN BIÊN TẬP


Người biên tập:
Tên bài: Trong thời đại trí tuệ nhân tạo, liệu chúng ta có thể chết trong bình an?
Nội dung:

Các tác động của trí tuệ nhân tạo (AI) trong các lĩnh vực như điện ảnh, báo chí và y học đang ngày càng rõ trong đời sống hàng ngày. Những tác động kinh tế và lao động của AI hiện đang được xem xét một cách liên tục. Tuy nhiên, tầm quan trọng về mặt xã hội của AI vẫn chưa được xem xét một cách đủ kỹ lưỡng. Chẳng hạn, với tiến bộ của AI, người ta đã có thể tạo ra một bản sao người đã chết với giọng nói và hình dáng y hệt khi họ còn sống để phục vụ nhiều mục đích khác nhau. Với sự tiến bộ của AI, có thể sẽ rất khó khăn, thậm chí là không thể bảo đảm rằng chúng ta sẽ còn được nhớ đến thông qua cách truyền thống, bất kể ý muốn của chúng ta khi còn sống.

Trí tuệ nhân tạo đã có mặt ở Hollywood và một số người nổi tiếng đã sẵn sàng phản đối việc sử dụng nó. Các công ty đang sử dụng AI để tái tạo hình ảnh của người đã mất thông qua cái mà họ gọi là "công nghệ tang thương" - để an ủi người thân hoặc, trong một số trường hợp khác, phổ biến hình ảnh của các ngôi sao nổi tiếng đã qua đời.

Zelda Williams, con gái của diễn viên quá cố Robin Williams, đã lên tiếng phản đối về việc tái tạo giọng nói và hình ảnh của cha cô thông qua AI cũng như các video giả mạo sâu (video deepfake) trên mạng, cũng như việc sử dụng AI để thay thế diễn viên thực sự trong phim và truyền hình. Co cho rằng: "Các sản phẩm AI kiểu này chỉ là một bản sao kém của những người tài năng hơn. Điểm quan trọng hơn, những video deepfake này được tạo ra mà không có sự đồng ý của cha cô”.

Các deepfake của những người đã qua đời là minh chứng thêm rằng tại Mỹ, nơi không có quy định liên quan đến AI ở cấp liên bang, nội dung được tạo ra bằng AI có thể được sử dụng và thương mại hóa một cách hợp pháp mà không cần sự đồng ý hay thỏa thuận của những người cung cấp dữ liệu mà AI dựa vào đó để tái tạo nội dung hình ảnh và âm thanh. Như vậy, chúng ta sau khi qua đời, không có gì bảo đảm rằng sẽ không có một bản sao kỹ thuật số của chúng ta do AI tạo dựng.

Tuy nhiên, một số thành viên trong gia đình có người mất có thể được an ủi bởi ý tưởng nói chuyện với phiên bản AI của người thân sau khi họ mất. Một số người sống có thể đánh giá cao ý tưởng về "bất tử kỹ thuật số" của họ, có thể là do sự khao khát về sự tồn tại vĩnh cửu, khao khát an ủi bạn bè và gia đình còn sống hoặc sự kết hợp cả hai. Tuy nhiên, sự đồng tình và kiểm soát là quan trọng. Thành viên trong gia đình chọn mua một bản sao AI có khả năng được an ủi hơn người bất ngờ bắt gặp một video deepfake về người thân đã qua đời.

Khái niệm đó nghe có vẻ xa xôi, nhưng "công nghệ tang thương" đã trở thành hiện thực. Ví dụ, công ty HereAfter AI có trụ sở tại Hoa Kỳ đang khuyến khích người dùng sống trả lời các câu hỏi tạo câu chuyện được lưu trữ trong ứng dụng, cùng với hình ảnh và video. Sau khi người dùng qua đời (hoặc trước khi), bạn bè và gia đình được ủy quyền có thể tương tác với "hình ảnh câu chuyện cuộc sống" mà dữ liệu của họ đã tạo ra.

Ngành công nghiệp này đang phát triển nhanh hơn tại Trung Quốc. Super Brain, một công ty có trụ sở tại tỉnh Chiết Giang, tạo ra "AI tang thương" cho các thành viên gia đình đang trong tang thương. Theo người sáng lập công ty, Zhang Zewei, ý tưởng này xuất phát từ một người cha đang trong tang thương hy vọng được nói chuyện với con trai đã qua đời. Công ty cung cấp một loạt dịch vụ, từ các đoạn audio hoặc video giới hạn đến các chatbot video có khả năng trò chuyện hoàn toàn. Theo Zhang, các "AI tang thương" tùy chỉnh như vậy có thể có giá từ 50.000 đến 100.000 nhân dân tệ (tương đương từ 6.860 đến 13.710 USD).

Super Brain không phải là công ty duy nhất tạo ra video deepfake về người đã qua đời. Công ty trụ sở tại tỉnh Giang Tô, Nanjing Silicon Intelligence, mới ký một hợp đồng tháng trước sẽ cho phép công ty truy cập vào mô hình ngôn ngữ lớn Pangu của Huawei. Mục tiêu là kết hợp các hình ảnh số với các tập dữ liệu LLM để tạo nội dung giải trí và "bất tử kỹ thuật số."

Sun Kai, người sáng lập và phó chủ tịch của Nanjing Silicon Intelligence, đã nói với phương tiện truyền thông Trung Quốc về động cơ cá nhân của ông để tạo ra video deepfake về người đã qua đời. Sau cái chết đột ngột của mẹ ông vào năm 2018, ông hối hận vì không thể thể hiện tình yêu của mình với bà nhiều hơn và trực tiếp. Nhưng bây giờ, anh được an ủi bởi việc anh có thể nói chuyện với bà - hoặc một phiên bản của bà - qua một chatbot video.

Đây là một lĩnh vực mới nổi và ở Trung Quốc và là lĩnh vực đang phải tuân theo một loạt quy định về AI. Trong số đó có quy tắc đặc biệt đối với deepfake (hoặc "tổng hợp sâu" theo cách gọi của các quy định ở Trung Quốc). Nó yêu cầu thông tin cá nhân được sử dụng để tạo ra video deepfake phải được thông báo cho người sở hữu và được họ đồng ý. Tuy nhiên, vẫn chưa rõ là các công ty AI sẽ tuân theo các nghĩa vụ đồng ý thế nào trong các trường hợp người có dữ liệu đã qua đời, và vấn đề chia sẻ lợi ích của công ty sử dụng dữ liệu đó với người thân của người đã mất. Đây là một lĩnh vực có ý nghĩa pháp lý và thương mại rõ ràng.

Ngoài ra, cũng rất quan trọng, hiện thực về "bất tử kỹ thuật số" đặt ra câu hỏi đạo đức và cá nhân. Liệu chúng ta có quyền không được "tái sinh" thông qua các mô phỏng như vậy, bất kể mong muốn của người thân thích sử dụng làm gì? Liệu các di chúc cuối cùng trong tương lai có chứa các điều khoản để bày tỏ sự đồng tình (hoặc không đồng tình) về việc sử dụng dữ liệu sinh học của chúng ta để tạo ra các “AI tang thương”? Những tác động đối với người nổi tiếng có tính thương mại hơn: Liệu các diễn viên có thể để lại hình ảnh của họ cho con cháu, tạo điều kiện cho ngành dịch vụ cung cấp các video deepfake về người nổi tiếng đã qua đời và nhiều vấn đề liên quan khác?

Như vậy, chúng ta đã thấy rằng AI đang dần thâm nhập vào cuộc sống hàng ngày và có những tác động kinh tế, xã hội và đạo đức mà chúng ta chưa từng phải đối mặt trước đây. Một trong những khía cạnh gây tranh cãi nảy sinh từ tiến bộ của AI là khả năng tái tạo hình ảnh và giọng nói của người đã mất thông qua “công nghệ tang thương”. Mặc dù có những người muốn sử dụng “công nghệ tang thương” để an ủi hoặc duy trì ký ức về người thân đã mất, sự đồng tình và kiểm soát đối với việc sử dụng AI trong trường hợp này là quan trọng. Việc quản lý dữ liệu và quyết định ai có quyền truy cập và sử dụng nó là một vấn đề phức tạp và đòi hỏi sự quan tâm đến quyền riêng tư và đạo đức.

Cũng cần nhấn mạnh rằng "bất tử kỹ thuật số" đặt ra nhiều câu hỏi đạo đức và cá nhân. Liệu chúng ta có quyền lựa chọn không được tái sinh kỹ thuật số, bất kể ý muốn của người thân hay người khác? Các di chúc trong tương lai có thể cần bao gồm các điều khoản về việc sử dụng dữ liệu cá nhân để tạo ra “AI tang thương”? Những tác động này cũng có thể ảnh hưởng đến những người nổi tiếng, có thể đặt ra câu hỏi về việc liệu họ có thể để lại di sản hình ảnh cho thế hệ sau bằng cách tạo ra các deepfake về họ. Robin Williams đã qua đời vào năm 2014, nhiều năm trước khi video deepfake xuất hiện. Trong một lĩnh vực đang thay đổi với tốc độ nhanh như vậy, chúng ta khó dự đoán được nhiều cách mà chúng ta có thể được tái sinh kỹ thuật số - bởi người thân yêu hoặc, có thể, bởi những người khác với ý định không phải lưu niệm.

Với sự tiến bộ không ngừng của công nghệ AI, chúng ta đang đối diện với những thách thức và cơ hội mới mẻ, và việc giải quyết các vấn đề đạo đức và pháp lý liên quan đến “AI tang thương” sẽ đòi hỏi sự thảo luận, quyết định và xác định chính sách thích hợp để bảo đảm bảo chúng ta vẫn có thể "chết trong bình an" trong một thế giới ngập tràn AI.

P.A.T (NASATI), Tài liệu tham khảo: In The Age Of AI, Can We Die In Peace? Johanna Costigan, Forbes, 11/10/2023




NHUẬN BÚT


Tác giả:
Tiêu đề: Trong thời đại trí tuệ nhân tạo, liệu chúng ta có thể chết trong bình an?
Ngày xuất bản: Thứ ba - 31/10/2023 21:28
Nội dung:

Các tác động của trí tuệ nhân tạo (AI) trong các lĩnh vực như điện ảnh, báo chí và y học đang ngày càng rõ trong đời sống hàng ngày. Những tác động kinh tế và lao động của AI hiện đang được xem xét một cách liên tục. Tuy nhiên, tầm quan trọng về mặt xã hội của AI vẫn chưa được xem xét một cách đủ kỹ lưỡng. Chẳng hạn, với tiến bộ của AI, người ta đã có thể tạo ra một bản sao người đã chết với giọng nói và hình dáng y hệt khi họ còn sống để phục vụ nhiều mục đích khác nhau. Với sự tiến bộ của AI, có thể sẽ rất khó khăn, thậm chí là không thể bảo đảm rằng chúng ta sẽ còn được nhớ đến thông qua cách truyền thống, bất kể ý muốn của chúng ta khi còn sống.

Trí tuệ nhân tạo đã có mặt ở Hollywood và một số người nổi tiếng đã sẵn sàng phản đối việc sử dụng nó. Các công ty đang sử dụng AI để tái tạo hình ảnh của người đã mất thông qua cái mà họ gọi là "công nghệ tang thương" - để an ủi người thân hoặc, trong một số trường hợp khác, phổ biến hình ảnh của các ngôi sao nổi tiếng đã qua đời.

Zelda Williams, con gái của diễn viên quá cố Robin Williams, đã lên tiếng phản đối về việc tái tạo giọng nói và hình ảnh của cha cô thông qua AI cũng như các video giả mạo sâu (video deepfake) trên mạng, cũng như việc sử dụng AI để thay thế diễn viên thực sự trong phim và truyền hình. Co cho rằng: "Các sản phẩm AI kiểu này chỉ là một bản sao kém của những người tài năng hơn. Điểm quan trọng hơn, những video deepfake này được tạo ra mà không có sự đồng ý của cha cô”.

Các deepfake của những người đã qua đời là minh chứng thêm rằng tại Mỹ, nơi không có quy định liên quan đến AI ở cấp liên bang, nội dung được tạo ra bằng AI có thể được sử dụng và thương mại hóa một cách hợp pháp mà không cần sự đồng ý hay thỏa thuận của những người cung cấp dữ liệu mà AI dựa vào đó để tái tạo nội dung hình ảnh và âm thanh. Như vậy, chúng ta sau khi qua đời, không có gì bảo đảm rằng sẽ không có một bản sao kỹ thuật số của chúng ta do AI tạo dựng.

Tuy nhiên, một số thành viên trong gia đình có người mất có thể được an ủi bởi ý tưởng nói chuyện với phiên bản AI của người thân sau khi họ mất. Một số người sống có thể đánh giá cao ý tưởng về "bất tử kỹ thuật số" của họ, có thể là do sự khao khát về sự tồn tại vĩnh cửu, khao khát an ủi bạn bè và gia đình còn sống hoặc sự kết hợp cả hai. Tuy nhiên, sự đồng tình và kiểm soát là quan trọng. Thành viên trong gia đình chọn mua một bản sao AI có khả năng được an ủi hơn người bất ngờ bắt gặp một video deepfake về người thân đã qua đời.

Khái niệm đó nghe có vẻ xa xôi, nhưng "công nghệ tang thương" đã trở thành hiện thực. Ví dụ, công ty HereAfter AI có trụ sở tại Hoa Kỳ đang khuyến khích người dùng sống trả lời các câu hỏi tạo câu chuyện được lưu trữ trong ứng dụng, cùng với hình ảnh và video. Sau khi người dùng qua đời (hoặc trước khi), bạn bè và gia đình được ủy quyền có thể tương tác với "hình ảnh câu chuyện cuộc sống" mà dữ liệu của họ đã tạo ra.

Ngành công nghiệp này đang phát triển nhanh hơn tại Trung Quốc. Super Brain, một công ty có trụ sở tại tỉnh Chiết Giang, tạo ra "AI tang thương" cho các thành viên gia đình đang trong tang thương. Theo người sáng lập công ty, Zhang Zewei, ý tưởng này xuất phát từ một người cha đang trong tang thương hy vọng được nói chuyện với con trai đã qua đời. Công ty cung cấp một loạt dịch vụ, từ các đoạn audio hoặc video giới hạn đến các chatbot video có khả năng trò chuyện hoàn toàn. Theo Zhang, các "AI tang thương" tùy chỉnh như vậy có thể có giá từ 50.000 đến 100.000 nhân dân tệ (tương đương từ 6.860 đến 13.710 USD).

Super Brain không phải là công ty duy nhất tạo ra video deepfake về người đã qua đời. Công ty trụ sở tại tỉnh Giang Tô, Nanjing Silicon Intelligence, mới ký một hợp đồng tháng trước sẽ cho phép công ty truy cập vào mô hình ngôn ngữ lớn Pangu của Huawei. Mục tiêu là kết hợp các hình ảnh số với các tập dữ liệu LLM để tạo nội dung giải trí và "bất tử kỹ thuật số."

Sun Kai, người sáng lập và phó chủ tịch của Nanjing Silicon Intelligence, đã nói với phương tiện truyền thông Trung Quốc về động cơ cá nhân của ông để tạo ra video deepfake về người đã qua đời. Sau cái chết đột ngột của mẹ ông vào năm 2018, ông hối hận vì không thể thể hiện tình yêu của mình với bà nhiều hơn và trực tiếp. Nhưng bây giờ, anh được an ủi bởi việc anh có thể nói chuyện với bà - hoặc một phiên bản của bà - qua một chatbot video.

Đây là một lĩnh vực mới nổi và ở Trung Quốc và là lĩnh vực đang phải tuân theo một loạt quy định về AI. Trong số đó có quy tắc đặc biệt đối với deepfake (hoặc "tổng hợp sâu" theo cách gọi của các quy định ở Trung Quốc). Nó yêu cầu thông tin cá nhân được sử dụng để tạo ra video deepfake phải được thông báo cho người sở hữu và được họ đồng ý. Tuy nhiên, vẫn chưa rõ là các công ty AI sẽ tuân theo các nghĩa vụ đồng ý thế nào trong các trường hợp người có dữ liệu đã qua đời, và vấn đề chia sẻ lợi ích của công ty sử dụng dữ liệu đó với người thân của người đã mất. Đây là một lĩnh vực có ý nghĩa pháp lý và thương mại rõ ràng.

Ngoài ra, cũng rất quan trọng, hiện thực về "bất tử kỹ thuật số" đặt ra câu hỏi đạo đức và cá nhân. Liệu chúng ta có quyền không được "tái sinh" thông qua các mô phỏng như vậy, bất kể mong muốn của người thân thích sử dụng làm gì? Liệu các di chúc cuối cùng trong tương lai có chứa các điều khoản để bày tỏ sự đồng tình (hoặc không đồng tình) về việc sử dụng dữ liệu sinh học của chúng ta để tạo ra các “AI tang thương”? Những tác động đối với người nổi tiếng có tính thương mại hơn: Liệu các diễn viên có thể để lại hình ảnh của họ cho con cháu, tạo điều kiện cho ngành dịch vụ cung cấp các video deepfake về người nổi tiếng đã qua đời và nhiều vấn đề liên quan khác?

Như vậy, chúng ta đã thấy rằng AI đang dần thâm nhập vào cuộc sống hàng ngày và có những tác động kinh tế, xã hội và đạo đức mà chúng ta chưa từng phải đối mặt trước đây. Một trong những khía cạnh gây tranh cãi nảy sinh từ tiến bộ của AI là khả năng tái tạo hình ảnh và giọng nói của người đã mất thông qua “công nghệ tang thương”. Mặc dù có những người muốn sử dụng “công nghệ tang thương” để an ủi hoặc duy trì ký ức về người thân đã mất, sự đồng tình và kiểm soát đối với việc sử dụng AI trong trường hợp này là quan trọng. Việc quản lý dữ liệu và quyết định ai có quyền truy cập và sử dụng nó là một vấn đề phức tạp và đòi hỏi sự quan tâm đến quyền riêng tư và đạo đức.

Cũng cần nhấn mạnh rằng "bất tử kỹ thuật số" đặt ra nhiều câu hỏi đạo đức và cá nhân. Liệu chúng ta có quyền lựa chọn không được tái sinh kỹ thuật số, bất kể ý muốn của người thân hay người khác? Các di chúc trong tương lai có thể cần bao gồm các điều khoản về việc sử dụng dữ liệu cá nhân để tạo ra “AI tang thương”? Những tác động này cũng có thể ảnh hưởng đến những người nổi tiếng, có thể đặt ra câu hỏi về việc liệu họ có thể để lại di sản hình ảnh cho thế hệ sau bằng cách tạo ra các deepfake về họ. Robin Williams đã qua đời vào năm 2014, nhiều năm trước khi video deepfake xuất hiện. Trong một lĩnh vực đang thay đổi với tốc độ nhanh như vậy, chúng ta khó dự đoán được nhiều cách mà chúng ta có thể được tái sinh kỹ thuật số - bởi người thân yêu hoặc, có thể, bởi những người khác với ý định không phải lưu niệm.

Với sự tiến bộ không ngừng của công nghệ AI, chúng ta đang đối diện với những thách thức và cơ hội mới mẻ, và việc giải quyết các vấn đề đạo đức và pháp lý liên quan đến “AI tang thương” sẽ đòi hỏi sự thảo luận, quyết định và xác định chính sách thích hợp để bảo đảm bảo chúng ta vẫn có thể "chết trong bình an" trong một thế giới ngập tràn AI.

P.A.T (NASATI), Tài liệu tham khảo: In The Age Of AI, Can We Die In Peace? Johanna Costigan, Forbes, 11/10/2023




Bạn đã không sử dụng Site, Bấm vào đây để duy trì trạng thái đăng nhập. Thời gian chờ: 60 giây