Edge inference devices