Не повинно і не буде працювати.
Квадрат Полібія це за сучасними мірками, не шифрування, а так, сіли чаю попити :)
Мені ліньки рахувати, але підозрюю, що підбір ключа 2 для отримання на виході більш-менш зв'язного тексту за складністю можна порівняти з зломом шифротекста.
Та й не потрібно, що б це працювало. Є більш прості способи отримати потрібний результат, я вище про них написав.
Про контейнери я все зрозумів, тільки один момент, наскільки реально визначити те, що там зашифровано кілька різних текстів? Тобто чи буде це «заперечувати шифруванням» або людина відразу зможе зрозуміти, що існує кілька ключів?
Щодо свого варіанту, я намагався зрозуміти чи можливо це здійснити не програмними засобами, а руками ...
Чи не зустрічав таких алгоритмів, і начебто їх немає.
Варіант єдиний - два блоки даних. Один - одним ключиком, другий - іншим. ПО повинен сам визначити початок. Так працює і TrueCrypt.
Простіше, коли розшифровують передбачає наявність шуму в потоці, і кордони потоку не явно визначені - тоді йому не буде очевидно, що розшифровується не з початку.
У випадку з банальним варіантом, коли файл на пару гіг розшифровується в пару кілобайт, та ще й з кінця, очевидно що щось не так