Настраиваю этот же плагин. Редактор работает, в смысле набирает формулы. Избавиться от такой же ошибки удалось переименовав файл, отвечающий за генерацию изображений /capture/imageCapture.php в imageCapture.jsp.

Редактор начал выводиться и набирать формулы. Но добиться от редактора сохранения формул мне не удалось. Причину вижу в русскоязычности моего сайта. Если глянуть в код, генерирующий ссылку на изображения, то туда включаются название темы и прочее - они русскоязычные и с пробелами. Отсюда ckeditor обрезает сгенерированный код и формула не вставляется.