Hồi đó mình đi cắm trại, tham gia trò chơi lớn, thường có một trò "giải mật thư." Khi nhận mật thư, kèm với thư đã mã hóa (ciphertext) là một dòng văn bản "gợi ý" cách giải mã.

Ví dụ, "gợi ý" đưa ra là:

Theo văn hóa thể thao nước mình, trong các giải đấu dành cho vận động viên 17 tuổi, thì người ta gọi là "giải đấu U17." Như vậy, ký tự "U" trên bảng chữ cái tương ứng với số 17. Lúc này, học sinh mới xoay hai vòng tròn bên trong sao cho số 17 khớp với chữ U ở vòng tròn ngoài cùng. Và ta có bảng đối chiếu, ví dụ chữ U trong cipher text sẽ đổi thành chữ O, hoặc chữ V thì được đổi thành P.

Tóm lại, ý tưởng của mã hóa Cipher là chọn ra một số nguyên làm khóa và một tập hợp . Số sẽ được mã hóa theo hàm sau:

Việc giải mã sẽ rất đơn giản nếu biết .

Multiplicative cipher là phép mã hóa tương tự như Caesar cipher, tuy nhiên thay vì cộng với , ta lại nhân:

Mã hóa nhân bảo mật hơn mã hóa Caesar ở chi phí tìm nghịch đảo modulo:

Cả hai phép mã hóa đều dễ bị phá trong trường hợp nhỏ, bằng cách thử mọi giá trị của . Nhưng mã hóa nhân đòi hỏi phải tính nghịch đảo modulo của theo , chứ không cộng trừ thẳng thừng như mã hóa Caesar.

Tuy nhiên, dù cho cách nào thì hai phương pháp mã hóa này đều phải dùng chung khóa . Tức là nếu Bob muốn gửi cho Alice một tin nhắn mà không muốn bên trung gian thứ ba (attacker) biết được, dù cho hắn có lấy được tin, thì Bob và Alice phải cùng biết khóa . Phương pháp mã hóa - giải mã dựa trên cùng một khóa được gọi là mã hóa đối xứng (symmetrical cryptography). Bên mã hóa và bên giải mã phải biết cùng một khóa bí mật.

Vấn đề đặt ra ở đây là, làm sao Bob với Alice cùng biết khóa ? Bob không thể "nhắn tin" gửi Alice khóa vì điều đó làm cho việc mã hóa trở nên vô nghĩa. Họ phải gặp mặt nhau. Ngay cả như vậy cũng không cải thiện độ bảo mật của phương pháp này tí nào.

Nói lạc đề một tí, ngày xưa trong chiến tranh, Đức Quốc xã có sử dụng cỗ máy Enigma để mã hóa và giải mã thông tin. Người Đức cho rằng đây là cỗ máy không thể hack được. Các bạn có thể xem thêm về cỗ máy Enigma tại đây.

Tuy nhiên, Enigma lại hoạt động dựa trên phương pháp mã hóa đối xứng. Dù người Đức đã thay đổi khóa mỗi ngày, nhưng Alan Turing đã tìm ra được nguyên tắc đó và giải mã được các mật thư mà người Đức gửi cho nhau. (Cái này xem trên phim The Imitation Game)

Như vậy, phương pháp mã hóa đối xứng khá là nguy hiểm vì phải có một cách đề Alice nói cho Bob biết chìa khóa chung để mã hóa và giải mã. Khả năng rất cao là attacker có thể chen ngang cuộc trò chuyện này và biết được.

Hơn nữa, nếu Alice là một người quan trọng, cần phải nhận thư từ hàng trăm người, cô lại phải giữ hàng trăm chìa khóa khác nhau. Điều này tỏ ra rất bất tiện.

Một cách hiệu quả hơn là thay vì Alice và Bob giữ hai chìa khóa y hệt nhau để mã hóa (hoặc giải mã) thì Alice sẽ giữ một chìa khóa duy nhất cho mình (private key) và "bán" ổ khóa (public key) cho những ai muốn gửi thư cho mình. Bob sẽ lấy ổ khóa đó và mã hóa bức thư, rồi gửi ciphertext cho Alice. Alice mới dùng chìa khóa mà chỉ có mình cô sở hữu để giải mã bức thư. Như vậy, sẽ không có sự trao đổi thông tin bí mật giữa bên gửi và bên nhận. Mặt khác, Alice có thể nhận thư một cách bảo mật từ bất cứ ai mà không cần phải quản lý nhiều chìa khóa. Phương pháp này gọi là asymmetrical cryptography (mã hóa bất đối xứng), hay còn gọi là public-key cryptography (mã hóa khóa công cộng).

Với ý tưởng mã hóa này, đòi hỏi hàm mã hóa phải đủ phức tạp để khó có thể tìm ra hàm giải mã . Đồng thời, phải có cách để giải mã dựa trên cách xây dựng hàm , mà cách giải mã chỉ có Alice nắm được.

Mã hóa RSA được thiết kế bởi ba nhà toán học Ron Rivest, Adi Shamir, và Leonard Adleman, được công bố lần đầu tiên vào năm 1977 và vẫn còn được sử dụng đến tận ngày hôm nay.

Quá trình mã hóa được thực hiện như sau:

Sau đây là phần chứng minh phép giải mã như trên là đúng.

Để chứng minh việc giải mã và mã hóa là thống nhất với nhau ta phải chứng minh chuỗi biến đổi sau là đúng:

Tức là chứng minh hay

Ta có:

Theo định lý Fermat nhỏ:

Chứng minh tương tự, ta cũng có:

Vì và là hai số nguyên tố cùng nhau (thực ra chúng là hai số nguyên tố khác nhau luôn rồi) nên suy ra:

Tất cả những gì Bob biết là số và để thực hiện phép tính với là tin nhắn cần mã hóa. Attacker nếu có trong tay , , và cũng khó có thể giải ra được nếu không có trong tay số . Thấy rằng các số liệu này đều được xây dựng từ hai số nguyên tố và ra cả, nhưng chú ý là thời gian để phân tích một số nguyên tố ra thừa số nguyên tố sẽ vô cùng tốn kém! Phép cộng, trừ, nhân các số nguyên rất lớn, khoảng 150 chữ số chẳng hạn, có thể được tính bằng máy tính rất nhanh trong vòng chưa đầy 1 giây, nhưng để phân tích một số có 150 chữ số ra thừa số nguyên tố thì phải tốn nhiều năm liền. Nếu không có trong tay và sẽ không tính được , và hiển nhiên, không thể tính được , chìa khóa để giải mã.

Tuy nhiên, đã có nhiều nghiên cứu để phá vỡ RSA. Chính vì vậy, ngày nay RSA được dùng kết hợp với một số thuật toán mã hóa khác để an toàn hơn. Dù sao thì RSA vẫn là cốt lõi của nhiều nền tảng bảo mật hiện nay. RSA còn được ứng dụng trong e-signature (chữ ký điện tử), trong đó private key dùng để sinh ra chữ ký dựa trên văn bản cần ký, còn public key dùng để kiểm tra xem chữ ký đó và văn bản đó có khớp nhau hay không.