Cursa sus estudios de arquitectura en Baku, donde entra en contacto por primera vez con
los bolcheviques. Su actuación más destacada tuvo lugar durante el gobierno de
Stalin. En 1938 es nombrado Comisario Soviético Popular para Asuntos Internos. Desde este organismo se ocupa de velar por la seguridad del estado. Para ello empleó métodos brutales con los que garantizó el
control absoluto de la policía sobre el Estado y el partido. En 1953 tras la muerte de Stalin le destituyeron y le condenaron a muerte.