Luận văn tập trung nghiên cứu và xây dựng các thuật toán tấn công hệ mật RSA, một trong những hệ mã hóa khóa công khai phổ biến nhất hiện nay. Dựa trên cơ sở lý thuyết về độ phức tạp của bài toán phân tích số nguyên lớn, nghiên cứu đề xuất các cải tiến thuật toán nhằm khai thác điểm yếu trong quá trình sinh khóa hoặc triển khai thực tế của RSA. Các phương pháp được xem xét bao gồm tấn công dựa trên ước số chung, tấn công thời gian, tấn công lỗi và khai thác các tham số yếu như số mũ nhỏ. Luận văn tiến hành cài đặt thử nghiệm, đánh giá hiệu quả và so sánh độ phức tạp tính toán của các thuật toán đề xuất với các phương pháp truyền thống. Kết quả nghiên cứu góp phần làm rõ các lỗ hổng bảo mật tiềm ẩn, đồng thời cung cấp cơ sở khoa học cho việc thiết kế các hệ thống mã hóa an toàn hơn trong thực tiễn.