Luận văn nghiên cứu các thuật toán lặp giải bài toán tối ưu phi tuyến, tập trung vào các phương pháp gradient liên hợp và phương pháp quasi-Newton. Các thuật toán này được phân tích về tính hội tụ, tốc độ hội tụ và điều kiện dừng. Phần ứng dụng của luận văn giải quyết bài toán tối ưu hóa danh mục đầu tư và bài toán ước lượng tham số trong mô hình hồi quy phi tuyến. Kết quả thực nghiệm trên các bộ dữ liệu mô phỏng và thực tế cho thấy các thuật toán đề xuất có hiệu quả tính toán cao, đặc biệt với các bài toán có số chiều lớn và hàm mục tiêu không lồi. Luận văn cũng đề xuất cải tiến thuật toán BFGS với kỹ thuật cập nhật bước chạy thích nghi, giúp giảm số lần lặp và tăng độ chính xác của nghiệm so với các phương pháp truyền thống.