Общий вид процедур зашифрования и расшифрования:
C = E(M) = K_e{M}
M = D(C) = K_d{C}
где:
M (message) - открытый текст
C (ciphertest) - зашифрованный текст
E (encription) - процедура зашифрования
D (decription) - процедура расшифрования
K_e - ключ зашифрования
K_d - ключ расшифрования

Симметричный алгоритм шифрования:
K_e = K_d = K

Криптосистема с открытым ключом
SK (secret key) - секретный ключ
PK (public key) - открытый ключ
A - пользователь A
B - пользователь B

B создаёт пару ключей SK_B и PK_B.
B размещает свой PK_B в общедоступном каталоге.
A получает из общедоступного каталога PK_B.
A получает C_A зашифровывая M_A ключом PK_B. C_A = PK_B{M_A}.
A отправляет C к B.
B расшифровывает C_A своим ключом SK_B и получает M_A. M_A = SK_B{C_A}