Đông đảo giảng viên, sinh viên Học viện tham gia Talkshow “Thiết kế các hệ thống trí tuệ nhân tạo hiệu quả và an toàn”

Ngày 26/06/2024, tại Hà Nội, Học viện Công nghệ Bưu chính Viễn thông đã tổ chức Talkshow “Thiết kế các hệ thống trí tuệ nhân tạo hiệu quả và an toàn”. Chương trình có sự tham gia của giáo sư Thái Trà My, chuyên gia hàng đầu về trí tuệ nhân tạo từ Khoa Khoa học và Kỹ thuật Thông tin, Đại học Florida, Hoa Kỳ. Chương trình là tạo cơ hội để giảng viên, nghiên cứu sinh, và sinh viên trao đổi, chia sẻ kiến thức, kinh nghiệm trong lĩnh vực Công nghệ thông tin và Trí tuệ nhân tạo

Tại chương trình, với nội dung “Thiết kế các hệ thống trí tuệ nhân tạo hiệu quả và an toàn” Giáo sư Thái Trà My đã chia sẻ những kiến thức chuyên sâu về trí tuệ nhân tạo.

Nội dung buổi chia sẻ đi sâu vào sự phát triển nhanh chóng của trí tuệ nhân tạo và ảnh hưởng sâu rộng của chúng đối với xã hội hiện đại, đặc biệt nhấn mạnh vào các lĩnh vực quan trọng như an ninh và quyền riêng tư, đảm bảo rằng hệ thống trí tuệ nhân tạo chống chọi hiệu quả với các cuộc tấn công độc hại và bảo vệ dữ liệu người dùng. Deep Learning, một nhánh của Machine Learning, đã trở thành công cụ không thể thiếu trong nhiều lĩnh vực công nghệ hiện đại như nhận dạng giọng nói, thị giác máy tính và xử lý ngôn ngữ tự nhiên. Ngày nay, các mô hình ngôn ngữ lớn đã giúp giảm đáng kể khối lượng công việc cho nhiều người dùng. Tuy nhiên, chính sự phức tạp và khả năng mạnh mẽ của các mô hình AI này cũng tạo điều kiện cho những kẻ tấn công nhắm vào chúng như một mục tiêu tiềm năng. Một ví dụ điển hình là tấn công qua việc sử dụng các prompt tinh vi; chỉ vài ký tự thay đổi có thể khiến mô hình chatbot tiết lộ thông tin nhạy cảm, hoặc vài điều chỉnh nhỏ cũng có thể dẫn đến việc mô hình AI phân loại sai lệch hoàn toàn. Trong bối cảnh này, việc hiểu rõ cách thức hoạt động của mô hình AI – nó đang “nhìn” vào đâu và đưa ra quyết định dựa trên cơ sở nào – là vô cùng quan trọng. Điều này không chỉ giúp chúng ta dự đoán được khi nào và tại sao một mô hình có thể sai sót, mà còn mở ra hướng tiếp cận mới để cải tiến và bảo vệ mô hình một cách hiệu quả.

Sự thành công của chương trình sẽ là tiền đề mở ra những cơ hội hợp tác mới giữa Đại học Florida và Học viện, góp phần nâng cao chất lượng đào tạo và nghiên cứu trong lĩnh vực Công nghệ thông tin và Trí tuệ nhân tạo tại Học viện.

Được biết, Đại học Florida (University of Florida – UF) là một trong những trường đại học công lập nghiên cứu hàng đầu của Hoa Kỳ, đặt tại thành phố Gainesville, Florida. Đây là một trong những trường đại học lâu đời và lớn nhất tại Florida. Các lĩnh vực đào tạo và nghiên cứu nổi bật của trường bao gồm: Kỹ thuật, Khoa học Máy tính, Kinh doanh, Khoa học Đời sống, Giáo dục, Nghệ thuật và Khoa học Xã hội.

Giáo sư Thái Trà My là giáo sư Nghiên cứu tại khoa Khoa học và Kỹ thuật Thông tin của Đại học Florida (UF) đồng thời là Phó Giám đốc Viện nghiên cứu Warren B. Nelms for the connected world, Đại học Florida, là hội viên của Hội Kỹ sư Điện và Điện tử (The Institute of Electrical and Electronics Engineers – IEEE). Giáo sư Thái Trà My là chuyên gia hàng đầu về trí tuệ nhân tạo Khoa Khoa học và Kỹ thuật Thông tin, một nhà nghiên cứu uy tín với những đóng góp tiên tiến trong việc mô hình hóa, thiết kế và tối ưu hóa các hệ thống phức tạp. Bà cũng là người tiên phong trong việc nghiên cứu giải quyết các vấn đề liên quan tới trách nhiệm và an toàn của trí tuệ nhân tạo. Công trình nghiên cứu của bà vô cùng đồ sộ với 7 cuốn sách và hơn 350 bài báo trong các tạp chí và hội nghị quốc tế có uy tín.