Как отключить DEP в Windows и заставить работать Camtasia Studio 7 и старше?

Дорогие друзья, в жизни бывают такие ситуации, когда для достижения чего-то одного, надо жертвовать чем-то другим. В моём случае для возможности работы с Camtasia Studio 7 пришлось полностью отключить DEP. Впрочем, следует отметить, что проблемы с Data Execution Prevention возникают и со многими другими программами или их составляющими, но для меня была актуально именно эта проблема.

DEP (с англ. предотвращение выполнения данных) – это функция безопасности, встроенная в Linux, Mac OS X, iOs, Android и (как в моём случае) Windows, которая не позволяет приложению исполнять код из области памяти, помеченной как «только для данных». В частности, она позволяет предотвратить некоторые атаки, при которых вирус, к примеру, сохраняет свой код в такой области с помощью переполнения буфера.

Как вы видите, функция в целом полезная, но не слишком надежная. По крайней мере, обход аппаратной реализации DEP в Windows был обнародован ещё в 2006 году. Безусловно, некоторые заплатки операционной системы позволили решить проблему в той или иной степени, но работать с программой надо, а не получается. Что делать? Или откажитесь от проблемной программы или отключайте DEP, но всё по порядку.

В моём случае проблема стала возникать при попытке воспользоваться функциями Camtasia Recorder из Camtasia Studio 7. В частности, пробовал посмотреть настройки: Tools > Options – и пожалуйста. Вместо окна настроек появлялось сообщение вида: «Прекращена работа…»

Прояснить ситуацию помогло сообщение появившееся в трее Windows. Кликнув его я и узнал о том, что все это связано с DEP.

Кому интересно, могу ещё привести скриншоты из журнала событий Windows:

Примечание: следует отметить, что проблема проявила себя именно в 7й и в 8й версиях, в 6й её не было.

Как вариант можно попробовать отключить DEP для отдельной программы. В частности, идем: Пуск > Панель управления > Система > Дополнительные параметры системы – далее на вкладке «Дополнительно» в секции «Быстродействие» жмем кнопку «Параметры…». В открывшемся окне переходим на вкладку «Предотвращение выполнения данных» и выбираем вариант «Включить DEP для всех программ и служб, кроме выбранных ниже». Жмем кнопку «Добавить…» и выбираем требуемую программу. Далее убираем галочку у программы в списке и жмем «OK». Перезапускаем компьютер.

В целом, так мне удалось добавить только саму программу Camtasia Studio, а вот с проблемным Camtasia Recorder это не прокатило. Вместо его добавления в список выводится сообщение:

На одном сайте, нашел предложение установить в свойствах файла CamRecorder.exe галочку «Выполнять эту программу от имени администратора». Пробовал ставить её и для всех пользователей – безрезультатно, но может вам поможет, попробуйте.

Ну а теперь, когда с деталями покончено, можно приступать и к сути вопроса.

Как отключить DEP в Windows?

1. Нажмите кнопку Пуск.
2. В строке поиска введите: cmd – в списке найденных программ появится файл: cmd.exe.

3. Наведите курсор на найденный файл: cmd.exe – и нажмите правую кнопку мыши. В открывшемся контекстном меню найдите и кликните пункт «Запуск от имени администратора». Если понадобится, введите пароль.

   

4. В открывшемся окне интерпретатора команд Windows введите команду: bcdedit.exe /set {current} nx AlwaysOff – и нажмите кнопку Enter. Должно появиться сообщение «Операция успешно завершена».
5. Закройте окно интерпретатора команд Windows и перезагрузите компьютер

Для тех, кому интересно, вот четыре варианта настройки DEP на уровне системы. Во всех этих вариантах может использоваться как программная, так и аппаратная реализация DEP.

• OptIn – данное значение используется по умолчанию. На компьютерах, оснащенных процессорами с поддержкой DEP, функция DEP включена по умолчанию для ограниченного числа системных файлов и программ. При этом по умолчанию защищаются только системные файлы Windows.
• OptOut – по умолчанию функция DEP включена для всех процессов. В диалоговом окне «Система» панели управления можно вручную создать список приложений, для которых следует отключить DEP. Специалисты по информационным технологиям могут воспользоваться пакетом средств обеспечения совместимости приложений (Application Compatibility Toolkit), чтобы отключить функцию DEP для одной или нескольких программ. При этом вступают в силу исправления, обеспечивающие совместимость программ, для функции DEP.
• AlwaysOn – функция DEP включается для всей системы. Все процессы работают с выполнением проверок DEP. В этом режиме нельзя отключить функцию DEP для отдельных приложений. Исправления, обеспечивающие совместимость программ, для функции DEP в силу не вступают. Программы, для которых с помощью пакета средств обеспечения совместимости приложений было отключено использование функции DEP, также работают с выполнением проверок DEP.
• AlwaysOff – функция DEP отключена для всей системы, независимо от наличия аппаратной поддержки DEP. Процессор не работает в режиме PAE, если в файле Boot.ini не указан параметр /PAE.

Теперь Camtasia Studio у меня вроде работает нормально, но если у вас есть какие-то соображения по теме – пишите. Как я понимаю, вариантов тут много, особенно если, как и я, тыкаться больше наугад, чем с пониманием вопроса. На этом у меня всё. Спасибо за внимание. Удачи!