Tống Hoàng Thanh An (K20502C) & Đỗ Nguyễn Thúy Diệu (K20502C),
Sinh viên Trường Đại học Kinh tế – Luật, ĐHQG Tp.HCM
Trong thời đại 4.0, việc ứng dụng robot vào các hoạt động sản xuất và sinh hoạt trong đời sống ngày càng trở nên phổ biến. Bên cạnh những tiềm năng và lợi ích, trí tuệ nhân tạo cũng bắt đầu đặt ra những thách thức cho con người trong nhiều lĩnh vực và khoa học pháp lý cũng không phải là ngoại lệ. Sự đẩy mạnh ứng dụng robot vào đời sống dần khiến robot ngày càng có mối quan hệ chặt chẽ hơn đối với quyền và lợi ích con người, đặt ra yêu cầu bảo vệ con người trước những “vật thể thông minh” này, nhất là khi pháp luật đang có dấu hiệu chững lại so với tiến bộ vượt bậc của công nghệ. Bài viết tập trung nghiên cứu về chủ thể chịu trách nhiệm bồi thường thiệt hại ngoài hợp đồng trong trường hợp thiệt hại gây ra bởi robot, từ đó chỉ ra một số điểm bất cập trong các quy định hiện hành của pháp luật Việt Nam, đồng thời đề xuất một số kiến nghị góp phần hoàn thiện các quy định pháp luật liên quan.
Từ khóa: robot, robot gây thiệt hại, trách nhiệm bồi thường thiệt hại ngoài hợp đồng
In the current 4.0 world, a notable change from the application of robots in production activities and daily life is becoming more popular. In addition to many benefits, the damage and risks caused by robots that do harm to humans do not stop at daily-basis stories but now become actual legal issues. The promotion of robot applications in life makes robots even more closely associated with human rights and legal benefits, posing a necessity to protect people against these “intelligent objects”, especially when the law seems to be gradually showing signs of slowing down, compared to the great progress of technology. This article examines the subject responsible for compensation for non-contractual damages in the case of damage caused by robots, thereby pointing out several shortcomings in the current provisions of Vietnamese law, as well as researching the laws of some other countries in order to propose recommendations to contribute to the improvement of relevant legal regulations.
Keywords: robot, damages caused by robots, liability for non-contractual compensation
1. Định nghĩa robot
Robot (người máy) là một loại máy có thể thực hiện những công việc một cách tự động bằng sự điều khiển của máy tính.[1] Robot hiện đại hoạt động dựa trên trí tuệ nhân tạo[2] – cho phép chúng thực hiện các nhiệm vụ phức tạp trong môi trường thường xuyên có sự thay đổi. Robot thực hiện nhiệm vụ thông qua các thuật toán xác định (thực hiện hành vi đã được lập trình sẵn) và các thuật toán ngẫu nhiên (khả năng học tập và tự hiệu chỉnh thuật toán để điều chỉnh hành vi).[3] Với thuật toán xác định thì robot lập trình[4] có thể thực hiện những công việc mang tính phức tạp cao, đòi hỏi ít hoặc không có sự giám sát của con người do đã được lập trình sẵn quy trình thực hiện với mục đích và khả năng nhất định (thường là các loại robot sử dụng trong công nghiệp…). Còn với thuật toán ngẫu nhiên, robot nhận thức[5] (thường là những robot có hình người như Sophia[6]…) thì hành vi của chúng khó có thể dự đoán trước.[7] Cả hai loại robot này đều tiềm ẩn rủi ro, bởi không thể đảm bảo hoạt động của robot luôn chính xác mà hoàn toàn có thể gây ra những thiệt hại nhất định nếu xảy ra sai sót trong quy trình sản xuất, thiết lập, bảo dưỡng hay hoạt động.
Hiện nay, trên toàn thế giới vẫn chưa có một định nghĩa cụ thể dưới góc độ pháp lý dành cho robot. Robot theo quy định của pháp luật Việt Nam không được xem là một chủ thể trong quan hệ pháp luật, mà chỉ được xem như một loại tài sản.[8] Do đó, robot vẫn chưa thể tự chịu trách nhiệm pháp lý đối với những thiệt hại mà chúng gây ra, mà trách nhiệm đó đang thuộc về chủ sở hữu hoặc người chiếm hữu tài sản.[9]
2. Quy định về trách nhiệm bồi thường thiệt hại ngoài hợp đồng trong trường hợp thiệt hại gây ra bởi robot theo pháp luật Việt Nam
Theo quy định của pháp luật hiện hành, trách nhiệm bồi thường thiệt hại ngoài hợp đồng phát sinh khi có các điều kiện sau: (i) phải có thiệt hại; (ii) phải có hành vi trái pháp luật; và (iii) phải có quan hệ nhân quả giữa thiệt hại và hành vi trái pháp luật.
Bộ luật Dân sự 2015 (sau đây gọi tắt là BLDS 2015) xây dựng, phân loại các căn cứ riêng để xác định mức thiệt hại đối với tài sản, sức khỏe, tính mạng bị xâm phạm.[10] Trên cơ sở đó, robot được xem là một loại tài sản, nên trách nhiệm bồi thường thiệt hại ngoài hợp đồng sẽ được giải quyết theo Điều 584(3):“Trường hợp tài sản gây thiệt hại thì chủ sở hữu, người chiếm hữu tài sản phải chịu trách nhiệm bồi thường thiệt hại, trừ trường hợp thiệt hại phát sinh theo quy định tại khoản 2 Điều này”.[11]
Bên cạnh đó, BLDS 2015 Điều 585 quy định một số nguyên tắc bồi thường thiệt hại ngoài hợp đồng như thiệt hại thực tế phải được bồi thường toàn bộ và kịp thời; người chịu trách nhiệm bồi thường thiệt hại có thể được giảm mức bồi thường nếu không có lỗi hoặc có lỗi vô ý và thiệt hại quá lớn so với khả năng kinh tế của mình; bên bị thiệt hại không được bồi thường phần thiệt hại khi có lỗi trong việc gây thiệt hại hoặc thiệt hại xảy ra do không áp dụng các biện pháp cần thiết, hợp lý để ngăn chặn, hạn chế…
Những quy định trên phần lớn được xây dựng và hoàn thiện lần cuối cách đây nhiều năm, song hiện nay robot đang ngày càng được ứng dụng nhiều trong đời sống, dần được xem như một phần thông dụng của hoạt động sản xuất và sinh hoạt. Do vậy, sự xuất hiện và biến đổi nhanh chóng của robot nói riêng cũng như trí tuệ nhân tạo nói chung đã làm bộc lộ nhiều điểm bất cập trong quy định của pháp luật khi áp dụng vào với thực tiễn.
3. Sự cần thiết của việc quy định chi tiết chủ thể chịu trách nhiệm bồi thường thiệt hại ngoài hợp đồng dựa trên sự phân loại các trường hợp robot gây thiệt hại
3.1. Phân loại trường hợp gây thiệt hại của robot
3.1.1. Đối với robot lập trình
Robot lập trình là loại robot thường được ứng dụng rộng rãi trong các hoạt động sản xuất nông nghiệp, công nghiệp… thường là các dạng máy móc tự động hóa, giúp thay thế con người trong những công việc nặng nhọc, độc hại hoặc có tính lặp lại nhằm tiết kiệm thời gian, công sức và nâng cao năng suất lao động. Việc ứng dụng robot trong sản xuất mang lại nhiều lợi ích đặc biệt là năng suất cao, tuy nhiên vẫn có nhiều trường hợp robot gây thiệt hại lớn cho con người và tài sản, dẫn đến phát sinh trách nhiệm pháp lý giữa các đối tượng liên quan. Giả sử tình huống, một máy kéo không người lái được lập trình để gieo hạt trên ruộng của nông dân A nhưng thực tế lại thực hiện công việc trên ruộng của nông dân B (trong trường hợp nông dân A đã thiết lập các hướng dẫn phù hợp), dẫn đến hoa màu trên khu vườn đang mùa thu hoạch của nông dân B bị hư hại.[12] Ngoài ra, robot lập trình cũng có thể được sử dụng trong các lĩnh vực như y tế, giáo dục, gia đình… và có thể gây ra thiệt hại. Trong lĩnh vực y tế, robot thường được sử dụng trong khám chữa bệnh như chẩn đoán, thực hiện các ca mổ, hỗ trợ người bệnh phục hồi… Tuy nhiên đã xuất hiện những trường hợp, một số sai sót trong các ca phẫu thuật có sử dụng robot đã dẫn đến việc ảnh hưởng xấu đến các cơ quan và mô bên trong cơ thể, thậm chí dẫn đến cái chết của bệnh nhân. Hiện nay, FDA[13] đang xem xét 71 trường hợp được báo cáo tương tự.[14] Hay một trường hợp gần gũi hơn với đời sống con người hiện nay, khi các robot giúp việc nhà đang được ứng dụng rộng rãi là vụ việc một phụ nữ Hàn Quốc trong lúc đang nằm ngủ trưa trên sàn nhà đã bị robot hút bụi hút tóc của mình vì robot dường như đã nhầm lẫn tóc với bụi.[15]
Giả sử trường hợp tương tự với người phụ nữ Hàn Quốc, những bệnh nhân hoặc người nhà bệnh nhân hay người nông dân B trong những ví dụ trên muốn được bồi thường thiệt hại, để xác định chủ thể chịu trách nhiệm bồi thường thiệt hại, dựa trên quy định của Bộ luật Dân sự 2015 hiện hành thì có thể xác định như sau: Đối với trường hợp của người nông dân căn cứ theo BLDS 2015 Điều 584(3), tài sản gây thiệt hại thì chủ sở hữu, người chiếm hữu tài sản sẽ là người chịu trách nhiệm bồi thường thiệt hại, do đó nông dân A sẽ là người chịu trách nhiệm bồi thường cho nông dân B. Trường hợp ứng dụng trong khám chữa bệnh, khi có thiệt hại xảy ra, bệnh viện với tư cách là một pháp nhân, căn cứ BLDS 2015 Điều 597 sẽ chịu trách nhiệm bồi thường thiệt hại cho bệnh nhân hoặc gia đình của bệnh nhân. Đối với trường hợp như người phụ nữ Hàn Quốc, có thể dựa trên quy định của BLDS 2015 Điều 608 để yêu cầu bồi thường từ cá nhân, pháp nhân sản xuất, kinh doanh và dịch vụ vì đã không đảm bảo chất lượng hàng hóa dẫn đến thiệt hại.
Tương tự với quy định của pháp luật Việt Nam, đối với những trường hợp trên, tại một số quốc gia, người chịu trách nhiệm bồi thường thiệt hại không chỉ là chủ sở hữu, người chiếm hữu hay sử dụng tài sản mà trách nhiệm đó còn thuộc về phía nhà sản xuất hoặc người lập trình. Điển hình như Đức, quốc gia đã phát triển các quy tắc nghiêm ngặt về trách nhiệm dân sự đối với các sản phẩm không an toàn và các quy tắc này phần lớn được chuyển thành luật hình sự, yêu cầu nhà sản xuất trước khi tiếp thị một sản phẩm phải chắc chắn tuân theo các tiêu chuẩn kỹ thuật và đảm bảo độ an toàn sau khi đã tiến hành thử nghiệm đầy đủ. Bên cạnh đó, khi sản phẩm được đưa ra thị trường, nhà sản xuất phải liên tục theo dõi phản hồi của khách hàng và phải phản ứng tức thời với các khiếu nại về tai nạn hoặc tác hại do sản phẩm gây ra. Nếu cần thiết, nhà sản xuất phải đưa ra cảnh báo, thu hồi các sản phẩm bị lỗi để sửa chữa, hoặc thậm chí ngừng tiếp thị sản phẩm. Nếu không tuân thủ các tiêu chuẩn này, nhà sản xuất có thể phải chịu trách nhiệm hình sự về bất kỳ nguyên nhân thiệt hại nào do sản phẩm gây ra và có thể bị kết tội cố ý (trường hợp nhận thức được rủi ro), vô ý gây thương tích hoặc giết người. Tương tự tại Hoa Kỳ, nếu nạn nhân của robot hút bụi được đề cập ở trên kiện nhà sản xuất hay người lập trình, dựa trên những quy tắc nghiêm ngặt, họ có thể phải đối mặt với trách nhiệm hình sự.[16]
Từ những phân tích trên có thể thấy, việc mở rộng chủ thể chịu trách nhiệm bồi thường thiệt hại trong trường hợp thiệt hại do robot gây ra đối với phía nhà sản xuất và người lập trình bên cạnh chủ sở hữu, người chiếm hữu hay người sử dụng dựa trên những quy tắc nghiêm ngặt như một số quốc gia trên thế giới đang áp dụng có thể phần nào hạn chế rủi ro, đồng thời bảo vệ tốt hơn quyền và lợi ích hợp pháp của những chủ thể liên quan. Đây cũng là một trong những biện pháp mà pháp luật Việt Nam có thể cân nhắc thực hiện.
3.1.2. Đối với robot nhận thức
Nếu các trường hợp xảy ra lỗi ở robot lập trình thường nguyên nhân nằm ở quá trình thiết lập thuật toán của phía nhà sản xuất, người lập trình hay người sử dụng, thì nguyên nhân gây thiệt hại ở robot nhận thức có phần đa dạng và khó xác định hơn bởi bản chất quá trình thực hiện hành vi của robot là quá trình tự ghi nhớ, học tập và hình thành nhận thức riêng dựa trên trí tuệ nhân tạo. Tính phức tạp của các thiệt hại do robot nhận thức gây ra có thể nhận thấy ở ngay hậu quả. Thực tế, thiệt hại gây ra bởi robot nhận thức có phần nghiêm trọng hơn nhiều so với trường hợp của robot lập trình. Và điều đáng chú ý là hiện nay, ứng dụng robot nhận thức đang dần trở nên phổ biến hơn.
Một trong những vụ việc nghiêm trọng được ghi nhận do robot nhận thức gây ra là vụ việc của Robert Williams – người được xác nhận là trường hợp con người chết do robot đầu tiên. Cụ thể, vào ngày 25 tháng 1 năm 1979, Robert Williams – một công nhân dây chuyền lắp ráp Ford Motor, 25 tuổi, thiệt mạng khi đang làm việc tại nhà máy đúc ở Flat Rock, Michigan. Williams đã tử vong tại chỗ khi bị cánh tay của robot đập vào đầu trong lúc đang thu thập các bộ phận trong một cơ sở lưu trữ, nơi robot cũng đang làm việc. Toà án kết luận robot đã đánh vào đầu Williams vì robot thiếu các biện pháp an toàn, bao gồm cả biện pháp cơ bản là phát ra âm thanh báo động nếu robot ở gần. Gia đình Williams sau đó đã nhận được khoản bồi thường 10 triệu USD từ Litton Industries – nhà sản xuất đã thiết kế ra robot.[17] Nhiều thập kỷ sau, các báo cáo về cái chết của con người do robot gây ra trở nên phổ biến hơn. Nổi bật trong số đó là vụ việc liên quan đến xe Uber và Tesla. Chiếc xe ô tô tự lái của Uber đã gây ra cái chết cho một người đi bộ[18], còn chiếc xe Tesla do các cảm biến không phát hiện được một chiếc xe tải cỡ lớn đang băng qua đường cao tốc nên đã gây ra vụ va chạm khiến người đàn ông 35 tuổi ngồi sau vô-lăng tử vong.[19]
Bên cạnh đó, hiện robot nhận thức đang dần được triển khai trong lĩnh vực quân sự theo hướng công nghiệp hóa chiến tranh.[20] Hiện 381 hệ thống vũ khí bán tự động và robot quân sự đã được triển khai hoặc đang được phát triển ở hàng chục quốc gia, bao gồm Trung Quốc, Pháp, Israel, Anh và Mỹ. Việc phát triển loại vũ khí này mang đến nhiều lo ngại. Bởi, robot khó có thể tuân thủ đầy đủ các quy tắc phức tạp của Luật Nhân đạo và Luật Nhân quyền quốc tế, vốn đòi hỏi sự hiểu biết và phán đoán của con người từ lòng trắc ẩn.[21] Chẳng hạn, một trong những nguyên tắc chủ yếu của Luật Nhân đạo quốc tế là khi xảy ra chiến tranh, xung đột là các bên tham chiến phải luôn luôn phân biệt rõ dân thường và tài sản của họ. Đại bộ phận nhân dân cũng như mỗi con người đều không thể bị coi là mục tiêu để tấn công, chỉ được tấn công vào các mục tiêu quân sự.[22] Tuy nhiên, những vũ khí được trang bị AI, hay còn được gọi chung là robot sát thủ có thể chiến đấu trong tương lai mà không cần bất kỳ sự can thiệp nào của con người dẫn đến những lo ngại rằng các hệ thống sẽ không thể phân biệt được đâu là chiến binh và dân thường.[23] Khi đó, thiệt hại do robot chiến đấu gây ra sẽ trực tiếp tác động đến tài sản và tính mạng của con người. Lúc này, một lần nữa cần đặt ra nghi vấn về trách nhiệm bồi thường thiệt hại sẽ thuộc về phía nhà sản xuất hay phía quân đội hay sẽ không chủ thể nào phải chịu trách nhiệm đối với những thiệt hại do chiến tranh gây ra. Cùng với đó mức tiền bồi thường dù có được thực hiện, chắc chắn vẫn không thể nào bồi thường toàn bộ tổn thất nặng nề mà những vũ khí quân sự tự động gây nên đối với sự sống của con người.
3.2. Sự khác nhau giữa robot và các loại tài sản khác
Như đã đề cập, robot theo quy định pháp luật Việt Nam hiện nay đang được xem là một loại tài sản do đó giống với những loại tài sản khác, thiệt hại mà robot gây ra sẽ do chính chủ sở hữu, người chiếm hữu chịu trách nhiệm bồi thường. Tuy nhiên giữa robot và các loại tài sản khác tồn tại điểm khác biệt lớn. Cụ thể, robot là một dạng vật thể có chứa đựng ý chí của con người, nghĩa là con người thông qua từng giai đoạn của các quá trình như thiết lập phần mềm, xây dựng thuật toán, sản xuất và vận hành robot có thể sử dụng ý chí của mình qua mã hóa thông tin để tác động đến những hành vi trong thực tiễn của robot, khiến robot thực hiện những hành động mà con người mong muốn. Khi đó, trường hợp hành vi của robot gây nên thiệt hại là xuất phát từ sự tác động của ý chí con người, và người ở đây không chỉ là chủ sở hữu, chiếm hữu mà còn có thể là những người tham gia vào tất cả các quá trình hình thành nên hành vi robot, cụ thể là phía nhà sản xuất hay lập trình viên. Khác với robot, việc dùng ý chí con người để tạo nên “hành vi” của con vật, đồ vật… là điều không thể.
Bên cạnh đó, hiện căn cứ làm phát sinh trách nhiệm bồi thường thiệt hại được xác định một phần dựa trên hành vi trái pháp luật. Trong trường hợp tài sản gây thiệt hại thì hành vi trái luật được xác định là hành vi gián tiếp của con người, không phải của tài sản. Chẳng hạn, người nông dân không quản lý súc vật, súc vật phá hoại mùa màng dẫn đến chịu trách nhiệm bồi thường. Ở đây, hành vi trái luật gây thiệt hại không thể xác định là hành vi phá hoại mùa màng của súc vật mà là việc người nông dân không chăn dắt súc vật của mình đúng quy định. Qua đó có thể thấy, con người chính là chủ thể chính mà pháp luật xem xét về hành vi trái luật. Bên cạnh đó, sở dĩ chủ thể chịu trách nhiệm trong những trường hợp tài sản gây thiệt hại là chủ sở hữu, hay người chiếm hữu tài sản bởi đây là những người trực tiếp quản lý, khai thác, thu lại lợi ích từ tài sản.[24] Do đó, nếu trong quá trình quản lý và sử dụng, tài sản gây ra thiệt hại thì họ phải chịu trách nhiệm bồi thường.
Dựa trên điểm này, nếu xét về những đối tượng có thể tiến hành việc quản lý, khai thác hay thu lợi từ việc sử dụng tài sản thì đối với robot, không chỉ có chủ sở hữu hay người chiếm hữu mà từ phía nhà sản xuất hay lập trình viên, thông qua phần mềm thiết lập trên robot, họ đều có thể thực hiện hoạt động quản lý, sử dụng. Bên cạnh đó, hành vi của robot khi hoạt động như đã đề cập, có thể diễn ra dựa trên ý chí, mong muốn của con người. Từ đó, thiệt hại của robot gây ra cũng có thể xem là thiệt hại gây ra bởi con người thông qua quá trình tác động, điều chỉnh, định hướng thuật toán của robot trong phần mềm được lập trình. Và khi đó, ngoài chủ sở hữu thì phía nhà sản xuất và lập trình viên cũng là những người liên quan đến vấn đề này. Đồng thời, tương ứng với mỗi loại robot, phụ thuộc vào khả năng tự ghi nhớ và hình thành nhận thức mà con người có thể tác động hành vi của robot trong những giai đoạn khác nhau. Do đó việc dựa trên sự phân loại robot để xác định đối tượng cụ thể chịu trách nhiệm bồi thường thiệt hại ngoài hợp đồng là một hướng đề xuất cần được xem xét.
Tóm lại, việc robot tồn tại sự khác biệt so với các loại tài sản khác khi robot chứa đựng ý chí của con người đã dẫn đến yêu cầu cần phải xây dựng quy định chi tiết hơn nữa về chủ thể chịu trách nhiệm bồi thường thiệt hại do robot gây ra, không đơn thuần chỉ quy về chủ sở hữu hay người chiếm hữu robot như hiện nay mà còn phải mở rộng phạm vi đến các đối tượng khác, đặc biệt là phía nhà sản xuất và lập trình viên.
4. Những bất cập trong quy định của pháp luật Việt Nam hiện hành về bồi thường thiệt hại ngoài hợp đồng do robot gây ra và liên hệ với các quốc gia trên thế giới
4.1. Những bất cập trong quy định của pháp luật Việt Nam hiện hành
Hiện nay, việc đẩy mạnh ứng dụng robot vào các hoạt động của đời sống đang ngày càng được chú trọng, tuy nhiên, pháp luật Việt Nam vẫn chưa thực sự mở rộng phạm vi điều chỉnh đối với những quan hệ pháp luật có liên quan đến robot, chưa tương xứng với sự phát triển nhanh và mạnh của đối tượng này. Vì thế, nhiều điểm hạn chế đang ngày càng bộc lộ rõ trong những quy định hiện hành.
Thứ nhất, robot vẫn chưa được định nghĩa rõ ràng và chưa được công nhận là một chủ thể trong các quan hệ pháp luật. Theo quy định của BLDS 2015, chủ thể của quan hệ pháp luật là cá nhân, pháp nhân. Robot là thực thể nhân tạo, không phải thực thể tự nhiên như con người nên không thể đưa vào nhóm chủ thể là cá nhân, đồng thời robot không mang các đặc điểm để được công nhận là pháp nhân. Bên cạnh đó, cũng không nên xem robot chỉ là một loại tài sản như hiện nay bởi trong tương lai, viễn cảnh robot tự mình tham gia vào các quan hệ xã hội một cách độc lập là hoàn toàn có thể xảy ra và việc xem robot chỉ đơn thuần là tài sản chưa phù hợp với trình độ phát triển của robot.[25]
Thứ hai, khi xem robot là một loại tài sản như hiện nay, theo quy định tại BLDS 2015, Điều 584(3), trường hợp robot gây ra thiệt hại thì người chủ sở hữu robot là người chịu trách nhiệm bồi thường. Từ đó có thể hiểu, mọi thiệt hại do robot gây ra đang bị giới hạn về chủ thể chịu trách nhiệm bồi thường, tập trung vào chủ sở hữu hoặc người chiếm hữu robot.[26] Tuy nhiên như đã phân tích, robot là một loại tài sản đặc biệt, có bản chất không giống với các loại tài sản khác, vì thế, nhiều bất cập sẽ phát sinh nếu sử dụng quy định chung về bồi thường thiệt hại do tài sản gây ra tại Điều 584(3) để điều chỉnh cho trường hợp robot gây thiệt hại trong thực tế. Vì thế, cần phải xem xét đến sự tác động của từng chủ thể để quy trách nhiệm bồi thường cho những người có liên quan. Bởi nguyên nhân của những thiệt hại do robot gây ra trong thực tế có thể xuất hiện ở nhiều giai đoạn khác nhau và có thể đến từ sự tác động của nhiều đối tượng. Trước hết, về phía nhà sản xuất, đây sẽ là người đầu tiên chịu trách nhiệm liên quan đến điện tử như hệ thống cảm biến, cơ cấu truyền động và các bộ phận cơ khí. Còn người lập trình sẽ là người chịu trách nhiệm về quá trình thực tập của robot liên quan đến lỗi phần mềm bao gồm khả năng học tập, xử lý hình ảnh, ra quyết định… Bên cạnh đó, khi robot cho phép một mức độ cá nhân hóa nhất định, người dùng có thể tự điều chỉnh thuật toán cơ bản thông qua đó hướng dẫn hành vi của robot, nếu xảy ra thiệt hại thì chính người sử dụng cũng là đối tượng phải chịu trách nhiệm. Theo đó, thiệt hại mà robot tạo ra do nguyên nhân trong quá trình sản xuất, lắp ráp hoặc thiết kế thường là trách nhiệm của nhà sản xuất, nhưng các thiệt hại cơ học do không bảo quản robot trong điều kiện tốt hoặc do quá trình sử dụng thì trách nhiệm đó thuộc về chủ sở hữu bởi họ có nhiệm vụ bảo trì, bảo quản và nâng cấp máy.[27] Bên cạnh đó, theo tinh thần của quy định bồi thường thiệt hại ngoài hợp đồng hiện nay, khi robot gây ra thiệt hại thì sẽ áp dụng trách nhiệm nghiêm ngặt, tức là, không xem xét đến yếu tố lỗi trong việc gây ra thiệt hại, không yêu cầu bên bị thiệt hại phải chứng minh yếu tố lỗi của bên gây thiệt hại khi đưa ra yêu cầu bồi thường. Tuy nhiên có thể thấy, sự thay đổi này chỉ giúp người bị thiệt hại được đảm bảo quyền yêu cầu bồi thường thiệt hại nhưng việc chỉ tập trung vào chủ thể chịu trách nhiệm là chủ sở hữu, người chiếm hữu tài sản là rất hạn chế và đang ở phạm vi rất hẹp so với những trường hợp thiệt hại gây ra bởi robot, vô tình đã bỏ qua trách nhiệm của phía các nhà sản xuất, người lập trình… như đã phân tích.
Việc xác định chủ thể chịu trách nhiệm bồi thường thiệt hại cũng có thể được thực hiện bằng quy định về nghĩa vụ liên đới.[28] Đối với vấn đề thiệt hại gây ra bởi robot, nguyên nhân dẫn đến thiệt hại như đã đề cập có thể đến từ nhiều giai đoạn và chịu sự tác động của nhiều đối tượng bao gồm phía nhà sản xuất, người lập trình, người sử dụng,… Dựa trên thỏa thuận hoặc theo quy định pháp luật, khi người chủ sở hữu là người chịu trách nhiệm bồi thường thiệt hại, thì nhà sản xuất, lập trình viên… cũng có thể được xem là các bên liên đới. Bên cạnh đó, thực tiễn cũng phát sinh trường hợp người chủ sở hữu có thể là người chịu thiệt hại, khi đó người chủ sở hữu không phải chịu trách nhiệm bồi thường, không thể hình thành các bên liên đới như trên thì có thể quy định trách nhiệm bồi thường về phía nhà sản xuất trong mối quan hệ nhà sản xuất và người tiêu dùng đối với trường hợp xác định nguyên nhân thiệt hại xuất phát từ chất lượng của hàng hóa mà nhà sản xuất đã cung cấp cho thị trường, ở đây là robot. Căn cứ Luật Bảo vệ quyền lợi người tiêu dùng 2010, Điều 23, tổ chức, cá nhân kinh doanh hàng hóa có trách nhiệm bồi thường thiệt hại trong trường hợp hàng hóa đó không đảm bảo chất lượng gây thiệt hại đến tính mạng, sức khỏe, tài sản của người tiêu dùng. Tuy nhiên, robot ngay cả khi được chứng minh đảm bảo chất lượng, tuân thủ theo các tiêu chuẩn an toàn, trải qua các bước thử nghiệm và được chứng nhận trước khi thương mại hóa vẫn có khả năng xảy ra các vấn đề phát sinh, xuất phát từ khả năng tự điều chỉnh dựa trên thuật toán của robot. Khi đó chủ thể chịu trách nhiệm bồi thường thiệt hại nếu chỉ áp đặt cho phía nhà sản xuất, cho người lập trình hay một bên cụ thể nào khác chắc chắn sẽ tồn tại sự bất công.
Có thể thấy rằng, pháp luật Việt Nam hiện nay chỉ áp dụng bồi thường thiệt hại ngoài hợp đồng đối với những trường hợp có thể đối chiếu dựa trên mối quan hệ đã được quy định như quan hệ giữa nhà sản xuất với người tiêu dùng, giữa chủ sở hữu tài sản với người bị thiệt hại bởi tài sản…. Song, bằng khả năng ra quyết định và hành động độc lập, robot có thể sẽ là một phương tiện để một chủ thể khác lợi dụng gây thiệt hại chẳng hạn như những robot quân sự hoặc hoàn toàn có thể là đối tượng trực tiếp gây thiệt hại cho con người hoặc những đối tượng khác.
Những bất cập trên đã cho thấy, việc xác định chủ thể chịu trách nhiệm bồi thường thiệt hại ngoài hợp đồng nếu chỉ dựa theo những quy định hiện hành sẽ tồn tại rất nhiều lỗ hổng. Bên cạnh đó, nếu xem việc yêu cầu phía nhà sản xuất phải bồi thường dựa trên trách nhiệm nghiêm ngặt theo quy định của Luật Bảo vệ quyền lợi người tiêu dùng 2010 như một biện pháp để bảo vệ quyền lợi của người chịu thiệt hại hay chủ sở hữu như hiện nay sẽ đồng nghĩa với việc hạn chế sự phát triển của tự động hóa. Bởi nhà sản xuất hoặc chủ sở hữu phải chịu trách nhiệm lớn hơn, nhiều rủi ro hơn đối với robot so với khi họ sử dụng lao động là con người. Thảo luận về vấn đề này, một số bài nghiên cứu đã cho rằng, để khuyến khích tự động hóa và cải thiện an toàn, cần phải áp dụng biện pháp bồi thường thiệt hại đối với robot như một con người thay vì xem robot là một tài sản như hiện nay.[29] Dựa trên đó, một phép so sánh được đặt ra giữa robot và các công ty khi trước đây các công ty cũng không được coi là các thực thể pháp lý riêng biệt với chủ sở hữu là con người. Tuy nhiên, theo thời gian, các nhà lập pháp đã từ bỏ mô hình coi các công ty chỉ là tài sản và trao cho chúng tư cách pháp nhân. Do đó, đối với các robot cũng cần phải được thiết lập tư cách chủ thể như vậy. Song, vì robot không có đầy đủ nhận thức và khả năng tư duy, chịu trách nhiệm như cá nhân, pháp nhân nên các quyền của robot cũng phải bị giới hạn chứ không hoàn toàn giống như các quyền của các chủ thể trong quan hệ pháp luật hiện nay.[30]
Ngoài ra, để giải quyết kịp thời vấn đề hiện nay, cũng cần xác định rằng, ngay cả robot nhận thức – được cho là có khả năng phán đoán, thì hiện tại vẫn không thể tự đặt ra mục tiêu, không thể tự nhận thức được hậu quả xã hội và đạo đức từ các hành động của chúng. Robot vẫn chưa thể đưa ra các quyết định tự chủ về việc thiết lập mục tiêu mà chỉ đơn giản là chúng đưa ra các lựa chọn phù hợp với chương trình đã được thiết lập. Do vậy, để những quy định về chủ thể chịu trách nhiệm bồi thường thiệt hại ngoài hợp đồng do robot gây nên trở nên rõ ràng hơn, cũng cần xuất phát từ việc phân loại và xác định cụ thể vai trò của con người trong từng quá trình hoạt động của robot. Theo đó, các bên như nhà sản xuất, người lập trình, nhà phân phối hay thậm chí là người sử dụng nên được đặt trong những phạm vi chịu trách nhiệm cụ thể, hạn chế tối đa trường hợp thiệt hại gây ra bởi robot không thể giải quyết đồng bộ do thiếu quy định. Đã đến lúc pháp luật nên chủ động thiết lập những quy định liên quan đến robot để bảo vệ cuộc sống của con người.
4.2. Pháp luật về bồi thường thiệt hại ngoài hợp đồng đối với thiệt hại gây ra bởi robot ở một số quốc gia
Hiện nay, trên thực tế, hầu như luật pháp quốc gia và quốc tế đều không công nhận robot là một chủ thể của pháp luật. Điều này dẫn đến, các vấn đề mang tính chất bồi thường thiệt hại ngoài hợp đồng từ các phát sinh liên quan đến việc robot gây thiệt hại vẫn là một bài toán khó khi phải xác định chủ thể chịu trách nhiệm. Từ quá trình “machine learning” hay “máy học” và tự kết luận từ những trải nghiệm, cả người sản xuất và lập trình viên cũng như người dùng robot đều không thể lường trước được tất cả những hành vi hay lỗi mà robot có thể phạm phải.[31] Trong khi đó, các nhà làm luật đa số các quốc gia trên thế giới thường quy trách nhiệm về một chủ thể nhất định để xác định người chịu trách nhiệm bồi thường. Và trường hợp robot gây ra thiệt hại và vấn đề xác định chủ thể chịu trách nhiệm bồi thường lại càng là một vấn đề nan giải.
Bởi pháp luật các nước trên thế giới chưa quy định một cách rõ ràng về trách nhiệm bồi thường thiệt hại liên quan đến AI, từ đó, các vấn đề bồi thường sẽ phải được giải quyết theo các quy định pháp luật hiện hành của quốc gia sở tại. Pháp luật châu Âu quy định “hành vi sử dụng sản phẩm chịu trách nhiệm về những thiệt hại xảy ra”, như vậy chủ thể sử dụng AI sẽ phải chịu trách nhiệm cho những xâm phạm do AI gây ra.[32] Ngoài ra, cũng có các điều ước quốc tế để mỗi quốc gia có hướng đi cụ thể và kịp thời, nhằm nắm bắt kịp được với xu thế hội nhập toàn cầu trong giai đoạn hiện nay. Chẳng hạn như, Công ước Lahaye ngày 02/10/1973 về trách nhiệm bồi thường thiệt hại do sản phẩm gây ra đã quy định rõ: cơ chế bồi thường thiệt hại nếu sản phẩm, hàng hóa gây thiệt hại cho người tiêu dùng thì trách nhiệm thuộc về nhà sản xuất. Tuy nhiên, công ước cũng đưa ra nhiều nguyên tắc chọn luật phức tạp, những nguyên tắc này chỉ được áp dụng với những điều kiện nhất định.[33] Có thể thấy, những công cụ pháp lý mà các quốc gia này sử dụng chủ yếu quy trách nhiệm về công ty chủ quản hoặc chủ thể sử dụng robot.
Mặt khác, Ả Rập Xê Út lại là quốc gia đầu tiên cấp quyền công dân như con người cho robot Sophia vào ngày 25/10/2017.[34] Nhiều ý kiến cho rằng việc cấp quyền hợp pháp cho robot rõ ràng vẫn là một chủ đề phức tạp và vẫn chưa rõ ràng trong việc xác định robot hình người với khả năng nhận thức, tư duy cao. Tuy vậy, robot Sophia giờ đây không đơn thuần được xem là một loại tài sản và viễn cảnh robot chịu trách nhiệm pháp lý với những thiệt hại ngoài hợp đồng là không xa trong tương lai.
Theo thực tiễn của Việt Nam ngày này, ứng dụng của robot vào đời sống là chưa nhiều và ta cũng chưa ghi nhận thiệt hại nào từ robot dẫn đến trách nhiệm bồi thường thiệt hại ngoài hợp đồng. Vì thế, việc đề ra các công cụ pháp lý để điều chỉnh, ràng buộc vấn đề này chưa được rõ ràng, như các quốc gia khác, ta cũng chưa có quy định nào cụ thể để áp dụng giải quyết khi phát sinh quan hệ bồi thường thiệt hại liên quan đến robot. Tuy nhiên, việc linh hoạt học hỏi và sửa đổi, bổ sung các quy định về robot rất cần thiết trong thời đại công nghiệp hóa, hiện đại hóa đất nước. Có như thế, chúng ta mới dễ dàng bắt kịp xu hướng, đẩy lùi sự lạc hậu, và giữ gìn trật tự xã hội trước sự vận động không ngừng của công nghệ tân tiến, điển hình là sự phát triển của robot.
5. Kiến nghị
Trước sự phát triển tiên tiến và nhanh chóng của tác nhân thông minh, nhóm tác giả mong muốn đưa ra một số đề xuất, kiến nghị nhằm góp phần hoàn thiện hệ thống pháp luật Việt Nam về trách nhiệm bồi thường thiệt hại ngoài hợp đồng với những thiệt hại do robot gây ra.
Trước hết, ngoài việc áp dụng những quy định hiện hành trong xác định chủ thể chịu trách nhiệm bồi thường, các nhà làm luật cần có định nghĩa rõ ràng về robot cùng với những văn bản hướng dẫn cụ thể liên quan đến việc phân loại loại robot nhận thức hay lập trình. Có như thế, việc lập ra những quy định riêng nhằm xác định chủ thể trách nhiệm bồi thường thiệt hại do robot gây nên mới trở nên dễ dàng hơn. Chẳng hạn như, văn bản pháp luật cần có những quy định về trách nhiệm bồi thường của nhà sản xuất, chủ sở hữu robot, người chiếm hữu hợp pháp hoặc trái pháp luật hệ thống robot và thực thể robot trong mối quan hệ không liên đới và liên đới.[35]
Bên cạnh đó, pháp luật cần đơn giản hóa quá trình yêu cầu bồi thường nếu thiệt hại phát sinh từ phía robot. Cụ thể, người bị thiệt hại phải bắt đầu khởi kiện từ đâu khi robot gây ra thiệt hại. Việc yêu cầu bồi thường này không cần thiết phải là một con đường vòng đi từ người chịu thiệt hại khởi kiện chủ sở hữu, sau đó chủ sở hữu sẽ yêu cầu bồi thường từ nhà sản xuất, và kế tiếp là nhà sản xuất sẽ liên hệ đến người lập trình robot.
Không dừng lại ở đó, với sự phân loại về robot lập trình và robot nhận thức, ta cần có những công cụ pháp lý riêng biệt để tránh những vấn đề phát sinh ngoài ý muốn. Đối với robot lập trình, ta cần tập trung xây dựng các hành lang pháp lý về cách thức quản lý và sử dụng chúng. Với robot nhận thức, với quá trình tự học và xử lý phức tạp hơn, các nhà lập pháp có thể cân nhắc ban hành các quy định về việc yêu cầu hướng dẫn, thực thi chuẩn mực đạo đức cho cả người sản xuất, người sử dụng và có thể là robot. Việc thành lập một quỹ hỗ trợ riêng của quốc tế hay các hệ thống bảo hiểm để bồi thường cho những chủ thể bị thiệt hại do hành vi của robot cũng là một ý kiến đóng góp đáng được ghi nhận, khi vấn đề xác định lỗi là của ai khi robot nhận thức gây thiệt hại gặp nhiều trở ngại.
Mặt khác, theo nhóm tác giả, robot nhận thức cần được công nhận là một thực thể pháp lý đặc biệt và có thể được cấp Quyền công dân. Tuy nhiên, việc trao tư cách pháp lý hay Quyền công dân cho robot chỉ nên thực hiện khi loại robot này đã đạt đến một ngưỡng điều kiện với các tính năng thích hợp. Ví dụ như một con robot nhận thức có thể tự mình hoạt động độc lập không phụ thuộc vào con người thì nó có thể được công nhận là một chủ thể mới của quan hệ pháp luật.[36] Vì thế, ngoài với việc trao tư cách pháp lý thì Nhà nước cần xây dựng khung tiêu chuẩn đánh giá năng lực riêng cho các loại robot đặc biệt này. Từ đó, nhân loại sẽ bắt đầu lập nên những cơ chế quản lý tiềm năng, không chỉ nhằm giới hạn quyền lực của robot và trao cho robot những quyền phù hợp, mà còn giới hạn quyền lực khi máy móc tiếp cận và thậm chí vượt qua khả năng nhận thức và thể chất của con người. Tuy nhiên, cơ chế này cũng cần được tiến thêm một bậc để có thể tạo ra một tập hợp các quyền riêng biệt liên quan đến một số robot nhất định, điều chỉnh các quan hệ xã hội, lĩnh vực công nghiệp, việc làm, trách nhiệm pháp lý, quyền sở hữu, quyền riêng tư, an ninh,…[37] Hơn hết, việc đánh giá khả năng của một robot nhận thức để công nhận tư cách pháp lý cần phải trải qua đầy đủ các khâu nghiên cứu, kiểm tra, giám sát cũng như tham khảo ý kiến của các chuyên gia để xây dựng nên một bộ tiêu chuẩn và quy trình giám định phù hợp.
6. Kết luận
Trước xu thế hội nhập toàn cầu và sự phát triển không ngừng của các đối tượng thông minh như robot, việc nghiên cứu, xây dựng, sửa đổi và bổ sung những công cụ pháp lý phù hợp để điều chỉnh chủ thể này mang tính cấp thiết cao. Thực tiễn cho thấy, Việt Nam và các quốc gia khác trên phạm vi toàn cầu vẫn cho rằng robot không nên có tư cách chủ thể pháp lý, và nếu robot gây hại, bên chịu thiệt hại sẽ được giải quyết theo pháp luật hiện hành về trách nhiệm bồi thường thiệt hại ngoài hợp đồng tùy vào trường hợp, điều kiện nhất định. Bên cạnh đó, việc xem xét các thách thức pháp lý mà robot có thể mang đến cũng rất cần thiết, bởi robot đang không ngừng được ứng dụng và chế tạo, dù hành lang pháp pháp lý trên bình diện chung nhất vẫn còn tồn đọng nhiều bất cập. Không chỉ pháp luật Việt Nam, mà pháp luật thế giới vẫn đang tỏ ra lúng túng trước đối tượng thông minh này, do đó, trước viễn cảnh robot trở thành một chủ thể pháp lý, nhóm tác giả tin rằng, các nhà làm luật nên đề ra những quy định pháp luật riêng biệt nhằm tiến hành giới hạn về quyền và nghĩa vụ của con người, và ngưng trì hoãn việc điều chỉnh các vấn đề pháp lý liên quan đến robot.
DANH MỤC TÀI LIỆU THAM KHẢO
Văn bản pháp luật
1. Công ước Lahaye ngày 02/10/1973 về trách nhiệm bồi thường thiệt hại do sản phẩm gây ra
2. Bộ luật Dân sự 2015
3. Luật Bảo vệ quyền lợi người tiêu dùng 2010
Sách, tạp chí và luận văn
1. Cambridge Dictionary Online
2. UNESCO (2017) REPORT OF COMEST ON ROBOTICS ETHICS <https://unescoblob.blob.core.windows.net/pdf/UploadCKEditor/REPORT%20OF%20COMEST%20ON%20ROBOTICS%20ETHICS%2014.09.17.pdf>
3. ‘Liability for damages caused by artificial intelligence’ Computer Law and Security Review (2015) p.376-389 <https://www.docs-crids.eu/index.php?lvl=notice_display&id=1179>
4. ‘If Robots Cause Harm, Who Is to Blame? Self-Driving Cars and Criminal Liability’ New Criminal Law Review <http://euro.ecom.cmu.edu/program/law/08-732/AI/Gless.pdf
5. Lê Thị Giang, ‘Bồi thường thiệt hại do tài sản gây ra theo quy định của Bộ luật Dân sự năm 2015’ (2017) Tạp chí kiểm sát số 15
6. Dương Quỳnh Hoa, ‘Trách nhiệm bồi thường thiệt hại trong kỷ nguyên trí tuệ nhân tạo’ (2020) Tạp chí Nghiên cứu Lập pháp số 09 <http://lapphap.vn/Pages/tintuc/tinchitiet.aspx?tintucid=210549>
7. Lưu Minh Sang, Trần Đức Thành, ‘Trí tuệ nhân tạo và những thách thức pháp lý’ (2020) Tạp chí Khoa học và Công nghệ Việt Nam Số 08 <https://sti.vista.gov.vn/tw/Lists/TaiLieuKHCN/Attachments/305243/CVv8S082020021.pdf>
8. Hoàng Thị Bích Ngọc, Vũ Công Giao, ‘Trách nhiệm đạo đức và pháp lý về robot: Một số vấn đề lý luận, thực tiễn’ Hội thảo Trí tuệ nhân tạo và những vấn đề đặt ra với pháp luật và quyền con người (Workshop Artificial Intelligence: Impacts on Law and Human Rights) (28/5/2019) <https://repository.vnu.edu.vn/bitstream/VNU_123/94725/1/KY-1024.pdf>
Nguồn điện tử
1. ‘Tim Sprinkle, ‘Do Robots Deserve Legal Rights?’ (19/1/2018) <https://www.asme.org/topics-resources/content/do-robots-deserve-legal-rights>
2. ‘Types of robotic surgery errors that lead to patient harm’ Gray, Ritter and Graham P.C <https://www.grgpc.com/types-robotic-surgery-errors-lead-patient-harm/>
3. Justin McCurry, ‘South Korean Woman’s Hair “Eaten” by Robot Vacuum Cleaner as She Slept’ (09/02/2015) <https://www.theguardian.com/world/2015/feb/09/south-korean-womans-hair-eaten-by-robot-vacuum-cleaner-as-she-slept>
4. Ian Tucker, ‘Death by robot: the new mechanised danger in our changing world’ (25/3/2018) <https://www.theguardian.com/technology/2018/mar/25/death-by-robot-mechanised-danger-in-our-changing-world>
5. Alejandro Zornoza, ‘Robots Liability: A Use Case and a Potential Solution’ IntechOpen (15/11/2016) <https://www.intechopen.com/chapters/56250>
6. Mattha Busby, ‘Killer robots: pressure builds for ban as governments meet’ (09/4/2018) <https://www.theguardian.com/technology/2018/apr/09/killer-robots-pressure-builds-for-ban-as-governments-meet>
7. Nguyễn Văn Phi, ‘Bồi thường thiệt hại ngoài hợp đồng là gì?’ (23/7/2021 <https://luathoangphi.vn/boi-thuong-thiet-hai-ngoai-hop-dong-la-gi/>
8. Hồ Thị Ngọc Ánh, ‘Trí tuệ nhân tạo và những thách thức pháp lý’(23/8/2020) <https://luatcongty.vn/tri-tue-nhan-tao-va-nhung-thach-thuc-phap-ly/>
9. Đoàn Thị Ngọc Hải, ‘Giải quyết xung đột pháp luật về trách nhiệm bồi thường thiệt hại ngoài hợp đồng trong Tư pháp quốc tế’ (12/8/2019) <https://stp.bacgiang.gov.vn/hien-thi-noi-dung/-/asset_publisher/wtMnvtGfRUNi/content/giai-quyet-xung-ot-phap-luat-ve-trach-nhiem-boi-thuong-thiet-hai-ngoai-hop-ong-trong-tu-phap-quoc-te>
10. Nguyễn Nguyễn, ‘Robot đầu tiên được cấp quyền công dân như con người’ (27/10/2017) <https://dantri.com.vn/suc-manh-so/robot-dau-tien-duoc-cap-quyen-cong-dan-nhu-con-nguoi-20171027075850401.htm>
11. Bùi Thị Hằng Nga, Nguyễn Thảo Linh, ‘Xác lập tư cách pháp lý cho trí tuệ nhân tạo’ Nghiên cứu lập pháp (08/10/2021) <http://lapphap.vn/Pages/tintuc/tinchitiet.aspx?tintucid=210863>
12. Hoàng Đinh, “Tổng quan Trí tuệ nhân tạo. Phân biệt AI – Machine Learning – Deep Learning” Viblo (23/11/2021) <https://viblo.asia/p/tong-quan-tri-tue-nhan-tao-phan-biet-ai-machine-learning-deep-learning-L4x5xJ4wZBM>
[1] Cambridge Dictionary Online
[2] Trí tuệ nhân tạo (tiếng anh là Artificial Intelligence (AI)) còn được gọi là trí thông minh nhân tạo, là một lĩnh vực của khoa học máy tính, tập trung vào việc tạo ra những cỗ máy thông minh, có thể hoạt động và phản ứng như con người.
[3] ‘Report of COMEST on robotics ethics’ UNESCO Digital Library
[4] Robot lập trình (deterministic robot): robot thực hiện điều khiển các hành vi đã được lập trình sẵn
[5] Robot nhận thức (cognitive robot): robot có khả năng học tập và có nhận thức
[6] Robot Sophia được kích hoạt vào ngày 19/4/2015 bởi kỹ sư David Hanson và cộng sự từ công ty Hanson Robotics tại Hong Kong; xuất hiện lần đầu tiên trước công chúng vào tháng 3/2016; được cho là robot giống con người nhất với trí tuệ thông minh nhân tạo. Mục đích chế tạo Sophia theo nhà sản xuất là nhằm phát minh ra một robot có ý thức, có sự sáng tạo và có khả năng hoạt động như bất kỳ con người nào để giúp đỡ chính con người trong các vấn đề cuộc sống thường ngày
[7] Hoàng Thị Bích Ngọc, Vũ Công Giao, ‘Trách nhiệm đạo đức và pháp lý về robot: Một số vấn đề lý luận, thực tiễn’ <https://repository.vnu.edu.vn/bitstream/VNU_123/94725/1/KY-1024.pdf> truy cập ngày 12/9/2021
[8] Bộ luật Dân sự 2015, Điều 105 định nghĩa tài sản là “vật, tiền, giấy tờ có giá và quyền tài sản”,“bao gồm bất động sản và động sản”
[9] Bộ luật Dân sự 2015, Điều 584(3)
[10] Bộ luật Dân sự 2015, Điều 589 – 593
[11] Bộ luật Dân sự 2015, Điều 584(2): “Người gây thiệt hại không phải chịu trách nhiệm bồi thường thiệt hại trong trường hợp thiệt hại phát sinh là do sự kiện bất khả kháng hoặc hoàn toàn do lỗi của bên bị thiệt hại, trừ trường hợp có thỏa thuận khác hoặc luật có quy định khác”
[12] Basu S., Omotubora A., Beeson, ‘Legal framework for small autonomous agricultural robots’, AI & Soc 35, 113–134 (2020) <https://doi.org/10.1007/s00146-018-0846-4> truy cập ngày 13/11/2021
[13] FDA (Food & Drug Administration): Cục quản lý Thực phẩm và Dược phẩm Hoa Kỳ
[14] ‘Types of robotic surgery errors that lead to patient harm’ Gray, Ritter and Graham P.C <https://www.grgpc.com/types-robotic-surgery-errors-lead-patient-harm/> truy cập ngày 13/9/2021
[15] Justin McCurry, ‘South Korean Woman’s Hair “Eaten” by Robot Vacuum Cleaner as She Slept’ The Guardian (09/02/2015) <https://www.theguardian.com/world/2015/feb/09/south-korean-womans-hair-eaten-by-robot-vacuum-cleaner-as-she-slept> truy cập ngày 13/9/2021
[16] ‘If Robots Cause Harm, Who Is to Blame? Self-Driving Cars and Criminal Liability’ New Criminal Law Review <http://euro.ecom.cmu.edu/program/law/08-732/AI/Gless.pdf> truy cập ngày 22/11/2021
[17] Ian Tucker, ‘Death by robot: the new mechanised danger in our changing world’ The Guardian (25/03/2018) <https://www.theguardian.com/technology/2018/mar/25/death-by-robot-mechanised-danger-in-our-changing-world> truy cập ngày 13/9/2021
[18] TTXVN/Vietnam+, ‘Mỹ: Uber tạm thời ngừng sử dụng xe tự lái sau tai nạn chết người’ Vietnamplus.vn (20/03/2018) <https://www.vietnamplus.vn/my-uber-tam-thoi-ngung-su-dung-xe-tu-lai-sau-tai-nan-chet-nguoi/493200.vnp> truy cập ngày 12/11/2021
[19] Theo Bloomberg, Thanh Minh, ‘Xe điện Tesla tiếp tục gây tai nạn chết người và bị điều tra’ Automotor.vn (13/05/2021) <https://automotor.vn/xe-dien-tesla-tiep-tuc-gay-tai-nan-chet-nguoi-va-bi-dieu-tra-103464.html> truy cập ngày 12/11/2021
[20] Công nghiệp hóa chiến tranh là việc đẩy mạnh ứng dụng hệ thống tự động hóa vào những cuộc chiến tranh như robot, máy bay, tàu ngầm quân sự không người lái…
[21] Mattha Busby, ‘Killer robots: pressure builds for ban as governments meet’ The Guardian (09/4/2018) <https://www.theguardian.com/technology/2018/apr/09/killer-robots-pressure-builds-for-ban-as-governments-meet> truy cập ngày 21/9/2021
[22] International Humanitarian Law, Handbook for Parliamentarians N° 25
[23] Tlđd 16
[24] Lê Thị Giang, ‘Bồi thường thiệt hại do tài sản gây ra theo quy định của Bộ luật Dân sự năm 2015’ (2017) Tạp chí kiểm sát số 15
[25] Bùi Thị Hằng Nga, ‘Xác lập tư cách pháp lý cho trí tuệ nhân tạo’ Nghiên cứu lập pháp (08/10/2021) <http://lapphap.vn/Pages/tintuc/tinchitiet.aspx?tintucid=210863> truy cập ngày 13/11/2021
[26] Trừ trường hợp được quy định tại Điều 584(2), BLDS 2015
[27] Alejandro Zornoza, ‘Robots Liability: A Use Case and a Potential Solution’ IntechOpen (15/11/2016) <https://www.intechopen.com/chapters/56250> truy cập ngày 13/11/2021
[28] Bộ luật Dân sự 2015, Điều 288
[29] Dương Quỳnh Hoa, ‘Trách nhiệm bồi thường thiệt hại trong kỷ nguyên trí tuệ nhân tạo’ (2020) Tạp chí Nghiên cứu Lập pháp số 09 <http://lapphap.vn/Pages/tintuc/tinchitiet.aspx?tintucid=210549> truy cập ngày 10/11/2021
[30] Bùi Thị Hằng Nga, Nguyễn Thảo Linh, ‘Xác lập tư cách pháp lý cho trí tuệ nhân tạo’ Nghiên cứu lập pháp (08/10/2021) <http://lapphap.vn/Pages/tintuc/tinchitiet.aspx?tintucid=210863> truy cập ngày 30/11/2021
[31] Hoàng Đinh, “Tổng quan Trí tuệ nhân tạo. Phân biệt AI – Machine Learning – Deep Learning” Viblo (23/11/2021) <https://viblo.asia/p/tong-quan-tri-tue-nhan-tao-phan-biet-ai-machine-learning-deep-learning-L4x5xJ4wZBM> truy cập ngày 30/11/2021
[32] Hồ Thị Ngọc Ánh, ‘Trí tuệ nhân tạo và những thách thức pháp lý’, luatcongty.vn (23/8/2020) <https://luatcongty.vn/tri-tue-nhan-tao-va-nhung-thach-thuc-phap-ly/> truy cập ngày 12/10/2021
[33] Đoàn Thị Ngọc Hải, ‘Giải quyết xung đột pháp luật về trách nhiệm bồi thường thiệt hại ngoài hợp đồng trong Tư pháp quốc tế’ stp.bacgiang.gov.vn (12/8/2019 <https://stp.bacgiang.gov.vn/hien-thi-noi-dung/-/asset_publisher/wtMnvtGfRUNi/content/giai-quyet-xung-ot-phap-luat-ve-trach-nhiem-boi-thuong-thiet-hai-ngoai-hop-ong-trong-tu-phap-quoc-te> truy cập ngày 12/10/2021
[34] Nguyễn Nguyễn, ‘Robot đầu tiên được cấp quyền công dân như con người’, Báo điện tử Dân trí (27/10/2017) <https://dantri.com.vn/suc-manh-so/robot-dau-tien-duoc-cap-quyen-cong-dan-nhu-con-nguoi-20171027075850401.htm> truy cập ngày 11/10/2021
[35] Lưu Minh Sang, Trần Đức Thành, ‘Trí tuệ nhân tạo và những thách thức pháp lý’ (2020), Tạp chí Khoa học và Công nghệ Việt Nam Số 08 <https://sti.vista.gov.vn/tw/Lists/TaiLieuKHCN/Attachments/305243/CVv8S082020021.pdf> truy cập ngày 12/10/2021
[36] Bùi Thị Hằng Nga, Nguyễn Thảo Linh, ‘Xác lập tư cách pháp lý cho trí tuệ nhân tạo’ Nghiên cứu lập pháp (08/10/2021) <http://lapphap.vn/Pages/tintuc/tinchitiet.aspx?tintucid=210863&fbclid=IwAR2kCeVTwsJ0KuwN6XMrpFxI_9P5CaXIyjJxs6UEPhs-G2iJhw4s2NxN6oE> truy cập ngày 13/10/2021
[37] ‘Tim Sprinkle, ‘Do Robots Deserve Legal Rights?’ (19/01/2018), ASME.org <https://www.asme.org/topics-resources/content/do-robots-deserve-legal-rights> truy cập ngày 12/10/2021